Earticle

본 논문에서는 청소년의 소셜미디어 이용규제에 관한 미국의 입법 동향 및 관련 헌법적 분쟁을 살펴보고 우리 헌법 해석상의 시사점을 검토 하였다. 미국에서는 이미 다양한 형태의 규제 입법 도입이 논의되고 있을 뿐만 아니라 헌법적 가치판단도 활성화되어 있어 비교법적으로 참고할 가치가 상당하다. 핵심은 강제적 본인확인제를 전제로 부모의 동의가 있 어야만 청소년의 소셜미디어 이용을 가능하게 하거나, 만일 연령 확인이 되지 않은 경우 성인에게도 청소년과 동등하게 가장 높은 수준의 보호(개 인정보 보호, 중독성 기술 제한, 제공콘텐츠 제한 등)를 강제하는 것인데, 후자는 규제 강도에 따라 사실상 청소년의 이용 가능한 미디어의 범위를 제한하는 결과를 낳기도 한다. 이러한 시도는 인터넷 규제에 관한 종전 논쟁의 연장선에서 논의되기도 하는데, 하급심에서는 대체로 종래 미 연 방대법원의 입장을 수용하여 관련 규제 내용이 불명확하고 표현의 자유 를 과도하게 침해함을 이유로 이를 위헌으로 판단하였다. 이와 같은 규제 입법은 표현의 자유뿐만 아니라 다양한 기본권을 폭넓 게 제한하는데, 대표적으로 기본권 주체성을 부정할 수 없는 학대받는 아동이나 성소수자와같이 열악한 상황에 놓인 청소년에 대해 미처 예상치 못한 기본권 제한적 결과를 초래할 수 있다. 나아가 위와 같은 규제는 국 가가 부모의 자녀교육권을 대신하여 지나치게 후견적으로 개입하는 측면이 있다. 또한 자유의 매개체로서 소셜미디어 업체의 활동을 위축시켜 결 과적으로 모든 이용자의 기본권에 악영향을 미칠 수 있고, 연령 확인이 강제될 경우에는 연령 확인을 원치 않거나 쉽게 할 수 없는 성인 이용자 의 익명의 자유까지도 제한할 우려가 있으며, 개인정보 유출 우려도 피하기 어렵다. 한편, 청소년과 소셜미디어를 특정하는 규제 입법은 그 자체 로 명확하지 않거나 지나치게 포괄적일 수 있고, 청소년 유해성의 판단기 준이 애매하고 정치적 편향성이 관여될 수 있다는 점에서 자칫 헌법에서 금지하는 사전검열에 해당하거나, 적어도 과잉한 규제로 판단될 여지가 있다. 이 점에서 무분별하게 청소년의 소셜미디어 규제 입법을 계수하는 것을 경계하고, 이를 논의한다면 헌법적 한계를 신중히 고려할 필요가 있다.

This study examines the restrictions on adolescent social media use from a comparative legal perspective, focusing on legislative trends in the United States. Several regulatory laws have been introduced at both federal and state levels in the United States to protect adolescents, along with judicial decisions, making it a valuable reference point. The core idea is to make adolescents’ social media use contingent upon parental consent, based on an identification verification system. Furthermore, if age verification is not possible, the highest level of protection is enforced on adults as well, thereby limiting the range of services available. Lower courts have generally ruled these regulations unconstitutional, considering them unclear in their provisions and excessively restrictive of freedom of expression. Examining the constitutional limits of such measures reveals that restricting adolescents’ use of social media infringes on several fundamental rights. For instance, it could result in unexpected restrictions on the rights of adolescents in vulnerable situations, such as abused children or sexual minorities. Furthermore, the regulations may lead to excessive paternalistic intervention by the state, thereby replacing the parental right. Ultimately, it will negatively impact all users by stifling social media companies as platforms for freedom of expression. Additionally, concerns have been raised that it may restrict the anonymity of adult users who prefer not to or find it difficult to verify their age, potentially leading to personal data breaches. Moreover, regulations targeting adolescents and social media may, in itself, be unclear or overly broad. Furthermore, the criteria for determining harm to adolescents may be ambiguous and politically biased, thus raising the possibility that it could amount to prior censorship prohibited by the Constitution, or at least be judged as excessive regulation. Therefore, caution is crucial regarding indiscriminate adoption of regulatory legislation concerning adolescents’ use of social media, and the constitutional limitations should be carefully considered.

허위영상물은 이미지 기반 성학대에서와 마찬가지로 피해자가 동의하 지 않은 성적 대상화(non-consensual sexual objectification)를 그 특성으 로 한다. 기술 촉진에 힘입어 빠르게 변화하는 이미지 기반 성학대 양상 에 발맞추지 못하는 법률과 미디어 플랫폼 규제 지연 상황 또한 행위자 처벌 및 피해자 보호의 측면에서 주목할 필요가 있다. 이러한 맥락에서 본 연구는 허위영상물 편집･반포 관련 성폭력처벌법 개정을 서두르는 과정에서 생략된 기존 허위영상물 편집･반포 발생 및 처리 현황에 대한 실증적인 분석을 목적하였다. 본 연구의 연구 방법 및 연구 내용은 크게 1) 국회에 발의되었던 성폭력처벌법 일부개정법률안을 종합, 비교하는 허위영상물 편집･반포 관련 법제 검토와 2) 2020년 3월 24일 성폭력처벌법 제14조의2가 신설된 이래 지난 4년여간 동조 적용이 검토된 제1심 판결문 124건, 피고인 129명을 대상으로 한 미디어 플랫폼 속 성적 인격권 침해 실태 분석의 두 영역으로 구분된다. 허위영상물과 같은 완곡한 용어를 사용하는 것이 딥페이크와 같은 대 중적 용어를 사용하는 것에 비해 직관적으로 이해되기는 어렵지만, 미디 어 플랫폼에서 발생하는 성적 인격권 침해를 포괄하여 처벌하기에는 상 대적으로 유리하다고 평가할 수 있다. 성폭력처벌법 제14조의2가 적용된 제1심 판결문을 검토한 결과, 고도의 첨단기술을 활용하여 교묘한 허위영상물을 제작할 것이라는 대중의 인식과는 달리 딥페이크 기술을 이용한 경우보다는 피해자의 사진에 정액 등 체액을 묻히거나 편집이 조잡하여 허위로 합성한 사진인지 쉽게 알 수 있는 합성물이 다수를 차지하였다. 미디어 플랫폼 속 성적 인격권 침해는 한 사람이 허위영상물 제작부터 반포를 모두 행하는 것이 아니라 미디어 플랫폼을 통해 연락을 취한 일 면식이 없는 복수의 가해자가 허위영상물 편집･반포 행위를 분담하는 형 태로 발생하고 있다. 이러한 가운데, 허위영상물 편집･반포 행위자들은 허위영상물 편집을 의뢰하기 위한 목적의 미디어 플랫폼과 제작한 허위 영상물을 게시하기 위한 목적의 미디어 플랫폼을 이원화하여 이용하는 경향을 보인다. 이상의 분석 결과를 바탕으로 본 연구는 최근 개정된 허 위영상물 편집･반포 규정을 평가하고 향후 성적 인격권 보호를 강화하기 위한 법 제도적 개선 방안을 제언하였다.

Like other forms of image-based sexual abuse, the editing and distribution of fabricated images involves non-consensual sexual objectification of the victim. The delay in adapting legal and media platform regulations to the rapidly evolving nature of such abuse highlights issues in both offender punishment and victim protection, particularly in cases of fabricated image distribution, including deepfakes. In this context, this study empirically analyzes the occurrence and handling of fabricated image distribution cases, which was overlooked in the rushed process of revising the Sexual Violence Punishment Act. The research methods and content are divided into two main parts: 1) a comprehensive review and comparison of legislative proposals for amendments to the Act related to fabricated image distribution via media platforms, and 2) an analysis of 124 court decisions involving 129 defendants to examine the violation of sexual dignity rights on media platforms over the past four years since the enactment of Article 14-2 of the Act on March 24, 2020. Although the term “fabricated images and videos” may be less intuitively understood compared to popular terms like “deepfake,” it is advantageous for comprehensively penalizing violations of sexual dignity rights on media platforms. Analysis of first-instance rulings where Article 14-2 was applied revealed that, contrary to public perceptions of using advanced AI technology, the majority of cases involved crude fabrications, such as adding bodily fluids like semen onto victim photos, which were easily identifiable as fake, rather than involving sophisticated deepfake technology. Additionally, violations of sexual dignity rights on media platforms do not typically involve a single person producing and distributing fabricated images and videos; rather, multiple offenders, who are often strangers connected through such platforms, share the tasks of editing and distributing fabricated images and videos. These offenders often separate the platforms used for commissioning fabrications from those used to post such images. Accordingly, the recent amendments to fabricated image distribution regulations are evaluated and improvements to the legal framework for enhancing the protection of sexual dignity rights are suggested.

최근 우리나라에서 전기통신사업법상 통신 이용자 정보 제공 요청 규정(이하 “이 법 규정”으로 줄임)에 따른 수사기관 등의 남용 문제가 크게 제기되고 있는바, 약 10년 전에 비해서 이 법 규정에 따른 수사기관 등의 요청 건수는 상당히 감소한 것으로 나타났다. 그러나 최근 3년 동안에는 이러한 수치가 소폭 증가한 것으로 나타났다. 생각건대, 이 법 규정은 초 기 수사 단계에서 수사기관 등의 수사나 정보수집 활동의 ‘신속성’과 ‘밀 행성’ 및 ‘효율성’을 보장해 주어, 공공의 안녕질서를 효율적으로 보호해 준다. 따라서 이 법 규정의 입법 목적이나 취지는 정당하다. 그리고 해당 전기통신사업자 측에서 이러한 수사기관 등의 전기통신사업법상 통신 이용자 정보 제공 요청을 자유롭게 거절할 수 있도록 명확하게 규정하고 있어서, 이에 대하여 그 어떤 법적인 강제나 의무가 없으므로, ‘임의수사’ 로 보는 것이 타당하다. 또한 독일처럼 우리나라는 법원의 허가나 영장이 필요한 통신비밀보호법상 통신사실 확인자료 요청 규정과 달리, 법원의 허가나 영장이 필요 없는 이 법 규정을 2000년 1월 28일에 법률 제6230 호로 전기통신사업법 제54조 제3항에서부터 현재까지 별도로 구분해서 규정하고 있다. 이 법 규정의 목적에 대해 우리나라와 독일의 헌법재판소 는 모두 정당한 것으로 판시하고 있다. 이에 향후 이 법 규정에서 법원의 허가나 영장을 새롭게 받도록 개정할 필요는 없다. 다만, 이 법 규정은 그 수집 정보의 대상이 다소 광범위하고 넓게 규정되어 있다고 볼 수 있 어서 수사기관 등의 남용 가능성이 있다. 그리고 이 법 규정은 그 수집 정보의 범위 중에서 해당 통신 이용자 개인의 여러 중요한 개인정보를 내포하고 있는 ‘주민등록번호’와 ‘상세한 주소’를 수집할 수 있도록 규정 하고 있다. 이는 과잉 금지의 원칙 중 최소 침해의 원칙과 법익 균형성의 원칙에 저촉될 수 있어서, 해당 통신 이용자의 개인정보자기결정권 등을 침해할 수 있다. 따라서 향후에는 이 법 규정에 의해 수사기관 등이 필요 최소한의 적절한 범위 내에서 통신 이용자 정보 제공을 요청할 수 있도 록 개선하는 것이 바람직하다. 이에, 이 법 규정에서 해당 통신 이용자의 ‘성명, 생년월일, 간단한 주소(도시명 또는 동네명 정도), 전화번호, 아이 디, 가입 또는 해지일’ 정도만 제공토록 개선하여, 해당 통신 이용자 개인 의 개인정보자기결정권을 좀 더 강하게 보호해 주는 것이 바람직하다.

Recently, the issue of abuse by investigative agencies under the Telecommunications Business Act (“the provisions of this Act”) has been increasingly raised in Korea, and the number of requests by investigative agencies under the provisions of this Act has decreased considerably compared to approximately 10 years ago. However, these figures have increased slightly over the past three years. The Telecommunications Business Act’s regulations for requesting information on communication users are believed to ensure the speed, trafficking, and efficiency of investigation and information collection activities in the initial investigation stage, thereby effectively protecting public well-being. Therefore, the legislative purpose or the purpose of this law’s regulations is justified. In addition, the telecommunications business operator clearly stipulates that the investigative agency can freely reject the request for providing communication user information under the Telecommunications Business Act; therefore, this can reasonably be regarded as “an arbitrary investigation.” Unlike the regulations on requesting data to confirm communication facts under the Communications Secret Protection Act, which requires court permission or warrant, Korea (like Germany) has separated the regulations on requesting information on communication users under the Telecommunications Business Act from Article 54 (3) of the latter Act, as Act No. 6230 of January 28, 2000. It does not require court permission or warrant. Both the Constitutional Court of Korea and Germany judge this law as constitutional. Therefore, amendment of the provisions of this law in the future to receive new court permission or warrants is not necessary. Conversely, the regulations for requesting the provision of communication user information under the Telecommunications Business Act pose a problem in that they can be abused by investigative agencies because the subject of the collected information is rather broad. Additionally, the Communication User Information Provision Request Regulations of the aforementioned Act allow the collection of resident registration numbers and detailed addresses that contain various important personal information of the individual communication user within the scope of the collected information. This is contrary to the principle of minimum infringement and balance of legal interests in the principle of balancing test, and the communication user’s right to self-determination of personal information may be violated. Therefore, in the future, improvement of the provisions of this Act is desirable so that investigative agencies can request the provision of communication user information to the minimum or appropriate extent. In addition, strengthening the communication user’s right to self-determination of personal information is desirable by improving the regulation to provide only the “name, date of birth, simple address (about the name of the city or neighborhood), phone number, ID, subscription, or termination date” of the communication user.

본 연구는 인공지능 기술의 확산과 지능 정보화 사회의 진전으로 온라인 플랫폼이 사회적 소통의 장에서 핵심적인 역할을 수행하면서 발생하 는 새로운 법익 침해 문제와 그에 따른 규제의 필요성을 탐구한다. 인공 지능 기술의 활용이 증대됨에 따라 딥페이크, 가짜뉴스, 혐오 표현 등의 콘텐츠가 대중에게 빠르게 확산하고, 이는 여론을 왜곡하고 민주주의적 의사결정을 방해할 우려를 낳고 있다. 특히 정보의 소비자에서 능동적 주체로 전환된 사용자들이 플랫폼을 통해 만들어내는 콘텐츠가 언론의 자 유와 인격권을 동시에 위협하며, 이는 플랫폼이 미디어 매개자로서 법적 책임을 가져야 한다는 주장의 근거가 된다. 의사소통의 장으로서 폭발적 인 파급력과 영향력을 가진 동시에 구조적인 우월성을 지닌 온라인 플랫 폼의 규제는 불법콘텐츠의 확산을 막기 위한 가장 효과적인 방법이기도 하다. 이에 본 연구는 이러한 새로운 위협에 대응하기 위한 플랫폼 규제 의 정당성을 고찰하며, 유럽을 중심으로 한 규제 법제의 발전 양상을 검토하였다. 특히, 유럽의 대표적인 매개자 규제 사례로 독일의 네크워크집행법 (NetzDG)과 프랑스의 정보조작대처법 및 혐오･불법콘텐츠 대응을 위한 아비아법, EU 디지털서비스법을 소개하며, 유럽의 법제에서 플랫폼 운영 자에게 요구하는 법적 책임의 범위와 주요 규제 내용을 검토하였다. 또한 EU 디지털서비스법의 제정으로 독일의 네트워크집행법이 일부 폐지되고, 독일의 디지털서비스법을 제정함으로써 유럽연합 전체 영역에서 매개자 규제에 대한 기준을 마련하였다. 그러나 이러한 규제들은 표현의 자유를 사전에 제한할 수 있는 문제를 내포하고 있으며, 사적 검열의 문제와 과 잉 차단의 위험성에 대한 우려가 존재한다. 그럼에도 불구하고 사회 구성 원들의 자유로운 의견 수렴의 결과가 아닌 조작된 허위 정보의 경우, 이 에 대한 보호 가치보다 공익이 현저히 높다고 판단된다. 또한 의사 표현 행위로 타인의 개인적 법익을 침해할 때 이에 대응할 법제가 마련되어 있다 하더라도, 정보통신기술과 접목된 폭발적 전파성과 파급효과를 고려할 때 매개자 규제를 통하여 무분별한 확산을 방지하고 법익 침해를 줄일 필요성이 인정된다. 다만 매개자 규제의 효율성 및 필 요성을 인지하면서도 불법콘텐츠에 대한 조치 시 이를 판단하는 주체를 넓히거나, 의견을 청취하는 등의 절차적 측면을 보완하고, 표현의 자유 침해 가능성을 최소화할 다각적 노력이 필요할 것이다.

This study explores the emerging issues of legal and moral infringement arising from the pivotal role of media platforms in social communication, particularly with the spread of artificial intelligence technology and the advancement of the information society, and particularly highlights the need for corresponding regulations. As the use of artificial intelligence increases, content such as deepfakes, fake news, and hate speech is spreading rapidly among the public, raising concerns that it will distort public opinion and hinder democratic decisionmaking. Regulating digital platforms, which play a dominant role in communication and have explosive ripple effects and influence due to their structural advantages, is the most effective way to curb the spread of illegal content. Therefore, this study examines the legitimacy of platform regulation as a response to these new threats and evaluates the current state of regulatory framework development in Europe. In particular, we introduce Germany's Network Enforcement Act (NetzDG), France's Countering Disinformation Act, and the EU Digital Services Act, which are representative examples of intermediary regulation in Europe, and examine the scope of legal liability, as well as key regulatory details required of platform operators under European law. In addition, Germany's Network Enforcement Act, often regarded as the beginning of intermediary regulation, was partially repealed with the enactment of the EU Digital Services Act, and the enactment of the German Digital Services Act has set the standard for intermediary regulation across Europe. However, these regulations may restrict the freedom of expression preemptively, raising concerns about private censorship and overblocking. Therefore, while recognizing the effectiveness and necessity of intermediary regulation, it is essential to take measures to minimize the risk of infringing on freedom of expression by expanding the regulatory body’s scope for addressing illegal content, and supplementing procedural aspects by listening to public opinion.