Earticle

초록

영어

As artificial intelligence technologies continue to advance, the rapid spread of deepfake and deepvoice-based disinformation has emerged as a significant threat to electoral integrity and democratic decision-making processes. In particular, AI-generated audio and visual manipulations may distort voters’ judgments and undermine public trust, thereby necessitating regulatory intervention. At the same time, freedom of political expression constitutes one of the most strongly protected fundamental rights in democratic societies, requiring a careful balance between election integrity and free expression. This study aims to explore legislative directions for harmonizing the regulation of deepfake and deepvoice election-related information with freedom of political expression and to examine the current status and limitations of media guidelines addressing such content. To achieve this objective, the study analyzes 38 deepfake- and deepvoice-related bills introduced in the 22nd National Assembly of Korea, focusing on legal definitions, regulatory scope, responsible actors, and technological obligations. In addition, AI-related guidelines adopted by major broadcasting organizations and media self-regulatory bodies are reviewed. The findings reveal that existing and proposed legislation has largely focused on combating digital sexual crimes, while a unified legal definition and comprehensive regulatory framework for deepfake and deepvoice content remain underdeveloped. Election-related regulations also exhibit ongoing tensions between preventing the dissemination of manipulated information and safeguarding political expression. In the media sector, transparency principles regarding AI-generated content have been partially incorporated; however, detailed standards for verifying and reporting externally sourced deepfake and deepvoice materials remain insufficient. Based on these findings, the study proposes clarifying regulatory definitions and illegality criteria, strengthening disclosure and watermarking requirements for AI-generated content, establishing proportionate responsibilities for platform operators, and enhancing media verification and user-notification obligations. These measures may contribute to the development of a balanced regulatory framework that simultaneously protects democratic public discourse, electoral integrity, and freedom of political expression.

한국어

선거 과정에서 딥페이크와 딥보이스를 활용한 영상 및 음성 조작 정보는 유권자의 판단을 왜곡하고 공적 신뢰를 훼손할 수 있다는 점에서 규제 필요성이 제기된다. 그러나 정치적 표현의 자유는 민주주의 사회에서 가장 두텁게 보호되어야 하는 기본권이라는 점에서 선거 정보 규제는 표현의 자유와 선거의 공정성 사이의 균형을 요구한다. 이 연구는 딥페이크･딥보이스 선거 정보 규제와 정치적 표현의 자유의 조화를 위한 입법 방향을 모색하고, 언론의 인공지능 관련 보도 가이드라인 현황을 분석하여 보완 방향을 살펴보고자 한 것이다. 이를 위해 제22대 국회에서 발의된 딥페이크･딥보이스 관련 법안 38건을 대상으로 규제 대상 범위, 수범 대상과 기술적 조치 의무를 중심으로 분석하였으며, 주요 방송사와 언론 자율규제기구의 인공지능 관련 가이드라인을 검토하였다. 분석 결과, 발의안들은 디지털 성범죄 영역에서는 규제 대상 확대와 처벌 강화를, 선거 영역에서는 현행 금지 범위의 축소･완화를 지향하는 상반된 경향을 보이면서도 위법성 요건 및 예외 적용 규정 등을 통해 규제 대상을 명확히 하고 인공지능 생성물 표시 의무와 플랫폼 사업자에 대한 기술적 조치 의무를 부과하려는 경향은 공통적인 것으로 확인되었다. 한편, 언론 자율규제 차원에서 제3자가 제공한 딥페이크･딥보이스 콘텐츠의 검증 및 보도 절차에 관한 구체적 기준은 부족한 것으로 나타났다. 이에 본 연구는 규제 대상과 위법성 요건의 명확화, 인공지능 생성물 표시 의무의 수범자 규정과 표시 대상 콘텐츠의 확정, 플랫폼 사업자의 책임과 절차적 투명성 확보, 언론의 진위 검증 및 이용자 고지 강화 등을 입법 및 정책 방향으로 제안했다. 이러한 논의는 정치적 표현의 자유를 보장하면서도 민주적 공론장과 선거의 신뢰성을 보호하는 균형적 규제 체계 구축에 기여할 것이다.

목차

국문초록
Ⅰ. 문제제기
Ⅱ. 기존 논의 검토
1. 딥페이크 콘텐츠의 폐해와 규제 현황
2. 딥보이스의 특수성
3. 딥페이크･딥보이스 선거 정보 규제의 쟁점
Ⅲ. 연구문제 및 연구방법
Ⅳ. 연구결과
1. 발의안 분석
2. 언론의 딥페이크･딥보이스 관련 보도 가이드라인 현황과 한계
Ⅴ. 결론 및 논의
참고문헌
ABSTRACT

키워드

저자

• 오세욱 [ Oh, Se Uk | 선문대학교 미디어커뮤니케이션학부 교수 ] 제1저자
• 정영주 [ Jung, Young Ju | 서울대학교 언론정보연구소 연구원 ] 교신저자
• 송해엽 [ Song, Hae Yeop | 국립군산대학교 미디어문화학과 교수 ] 참여저자

참고문헌

발행기관

간행물

표지보기 관심저널 등록

• 간행물명

  미디어와 인격권 [Journal of Media and Defamation Law]

• 간기

  연3회

• pISSN

  2465-9207

• eISSN

  2465-9460

• 수록기간

  2015~2026

• 등재여부

  KCI 등재

• 십진분류

  KDC 331 DDC 301