Earticle

선거 과정에서 딥페이크와 딥보이스를 활용한 영상 및 음성 조작 정보는 유권자의 판단을 왜곡하고 공적 신뢰를 훼손할 수 있다는 점에서 규제 필요성이 제기된다. 그러나 정치적 표현의 자유는 민주주의 사회에서 가장 두텁게 보호되어야 하는 기본권이라는 점에서 선거 정보 규제는 표현의 자유와 선거의 공정성 사이의 균형을 요구한다. 이 연구는 딥페이크･딥보이스 선거 정보 규제와 정치적 표현의 자유의 조화를 위한 입법 방향을 모색하고, 언론의 인공지능 관련 보도 가이드라인 현황을 분석하여 보완 방향을 살펴보고자 한 것이다. 이를 위해 제22대 국회에서 발의된 딥페이크･딥보이스 관련 법안 38건을 대상으로 규제 대상 범위, 수범 대상과 기술적 조치 의무를 중심으로 분석하였으며, 주요 방송사와 언론 자율규제기구의 인공지능 관련 가이드라인을 검토하였다. 분석 결과, 발의안들은 디지털 성범죄 영역에서는 규제 대상 확대와 처벌 강화를, 선거 영역에서는 현행 금지 범위의 축소･완화를 지향하는 상반된 경향을 보이면서도 위법성 요건 및 예외 적용 규정 등을 통해 규제 대상을 명확히 하고 인공지능 생성물 표시 의무와 플랫폼 사업자에 대한 기술적 조치 의무를 부과하려는 경향은 공통적인 것으로 확인되었다. 한편, 언론 자율규제 차원에서 제3자가 제공한 딥페이크･딥보이스 콘텐츠의 검증 및 보도 절차에 관한 구체적 기준은 부족한 것으로 나타났다. 이에 본 연구는 규제 대상과 위법성 요건의 명확화, 인공지능 생성물 표시 의무의 수범자 규정과 표시 대상 콘텐츠의 확정, 플랫폼 사업자의 책임과 절차적 투명성 확보, 언론의 진위 검증 및 이용자 고지 강화 등을 입법 및 정책 방향으로 제안했다. 이러한 논의는 정치적 표현의 자유를 보장하면서도 민주적 공론장과 선거의 신뢰성을 보호하는 균형적 규제 체계 구축에 기여할 것이다.

As artificial intelligence technologies continue to advance, the rapid spread of deepfake and deepvoice-based disinformation has emerged as a significant threat to electoral integrity and democratic decision-making processes. In particular, AI-generated audio and visual manipulations may distort voters’ judgments and undermine public trust, thereby necessitating regulatory intervention. At the same time, freedom of political expression constitutes one of the most strongly protected fundamental rights in democratic societies, requiring a careful balance between election integrity and free expression. This study aims to explore legislative directions for harmonizing the regulation of deepfake and deepvoice election-related information with freedom of political expression and to examine the current status and limitations of media guidelines addressing such content. To achieve this objective, the study analyzes 38 deepfake- and deepvoice-related bills introduced in the 22nd National Assembly of Korea, focusing on legal definitions, regulatory scope, responsible actors, and technological obligations. In addition, AI-related guidelines adopted by major broadcasting organizations and media self-regulatory bodies are reviewed. The findings reveal that existing and proposed legislation has largely focused on combating digital sexual crimes, while a unified legal definition and comprehensive regulatory framework for deepfake and deepvoice content remain underdeveloped. Election-related regulations also exhibit ongoing tensions between preventing the dissemination of manipulated information and safeguarding political expression. In the media sector, transparency principles regarding AI-generated content have been partially incorporated; however, detailed standards for verifying and reporting externally sourced deepfake and deepvoice materials remain insufficient. Based on these findings, the study proposes clarifying regulatory definitions and illegality criteria, strengthening disclosure and watermarking requirements for AI-generated content, establishing proportionate responsibilities for platform operators, and enhancing media verification and user-notification obligations. These measures may contribute to the development of a balanced regulatory framework that simultaneously protects democratic public discourse, electoral integrity, and freedom of political expression.

언론소송에 있어서 재판관할권 문제, 특히 디지털 시대에 즈음한 인터넷 매체의 재판관할권 문제는 언론법 영역에서 새롭게 부상한 난제 중 하나에 해당한다. 따라서 이를 해결해야 하는 것 역시 미디어법 영역의 중요한 화두에 속한다. 이와 관련해 독일의 경우는 민사소송법 제32조의 불법행위 특별재판적에 따라 언론소송의 재판관할권 문제를 처리하는 것이 일반적이다. 따라서 표현내용이 의도적으로 전파된 장소라면 어디에서든 소송 제기가 가능하다는 원칙에서 출발하였다. 이러한 점에서 소위 독일의 “이동관할권(fliegender Gerichtsstand)” 문제는 언론소송에 있어서 뜨거운 격론의 대상이 되었다. 특히 온라인 콘텐츠는 항상 전국 단위를 넘어서 세계로 전파되는 편재적 속성을 지닌다는 점에서 독일 내의 모든 법원에 재판관할권이 잠재적으로 가능하다는 점에서 언론법상 논의의 중심에 서게 되었다. 이에 최근 독일 판례의 추세는 독일 민사소송법 제32조에 따른 불법행위 특별재판적의 제한적 해석을 통해 인터넷에서의 인격권 침해사건에 관한 재판관할권을 제한하려는 움직임을 보여왔다. 특히 단순한 검색 가능성을 넘어서 해당 지역의 재판관할권과 구체적 관련성을 요구하는 경향이 나타나기도 하였다. 반면에 우리 언론소송의 현실에서는 재판관할권 인정 문제와 관련해 혼란을 피할 수 없는 상황이다. 왜냐하면 명예훼손 등을 포함한 불법행위 손해배상청구는 재산권의 소에 해당하므로 민사소송법 제8조에 따라 의무이행지의 법원에 제기할 수 있다고 보는 판례와 불법행위로 인한 손해배상청구권의 경우에는 피고의 재판권 보장 차원에서 민사소송법 제8조의 의무이행지가 제외된다는 판례가 양립하고 있기 때문이다. 그럼에도 관련 논의는 아직 미진한 상태라고 볼 수 있다. 따라서 우리 역시 언론소송의 재판관할권은 그 본령에 맞게 보통재판적 아니면 독일의 경우와 마찬가지로 민사소송법 제18조에 따른 불법행위 특별재판적이 적용되어야 할 것으로 생각된다. 이는 실제 국제적 기준에 비추어 보거나 인격권 침해에 대한 기사삭제청구권 등이 소송 대상으로 되었을 경우 이행지 특별재판적과의 불일치로 인해 상당한 혼란이 야기될 수밖에 없다는 점에서도 그렇다.

The issue of judicial jurisdiction in media litigation, particularly regarding internet media in the digital age, is one of the newly emerging challenges in the field of media law. Therefore, resolving this is also a key topic in the field of media law. In this regard, Germany generally handles the issue of judicial jurisdiction in media litigation based on the special jurisdiction for torts under Article 32 of the Civil Procedure Code. Accordingly, this approach is based on the principle that a lawsuit can be filed anywhere the content of an expression was intentionally disseminated. In this regard, the issue of Germany's so-called “mobile jurisdiction” has become a subject of heated debate in media litigation. Particularly given that online content possesses a ubiquitous nature, always disseminating beyond the national borders to the world, it has become a central topic of discussion in media law, as it implies that jurisdiction could potentially exist in any court within Germany. Accordingly, recent trends in German case law have shown a movement to limit jurisdiction regarding cases of personality rights infringement on the Internet through a restrictive interpretation of the special jurisdiction for torts under Article 32 of the German Civil Procedure Code. Notably, there has been a tendency to require a concrete connection to the jurisdiction of the relevant region, going beyond mere searchability. On the other hand, in the reality of media litigation in Korea, confusion regarding the recognition of jurisdiction is unavoidable. This is because there is a conflict between precedents that hold that claims for damages from torts, including defamation, constitute actions concerning property rights and can therefore be filed with the court of the place of performance pursuant to Article 8 of the Civil Procedure Act, and precedents that exclude the place of performance under Article 8 of the Civil Procedure Act in cases of claims for damages arising from torts to guarantee the defendant's jurisdiction. Nevertheless, it can be seen that related discussions remain insufficient. Therefore, it is believed that the jurisdiction over media litigation in Korea should be applied either as general jurisdiction in accordance with its essence, or as special jurisdiction for torts pursuant to Article 18 of the Civil Procedure Act, as is the case in Germany. This is also because, when viewed in light of actual international standards or when claims for the deletion of articles regarding the infringement of personality rights become the subject of litigation, significant confusion is bound to arise due to the inconsistency with the special jurisdiction of the place of performance.