Earticle

초록

영어

The rapid development of digital platforms and generative artificial intelligence has transformed the production, modification, replication, and distribution of illegal online information and content. In Korea, responsibilities for detection, review, blocking, investigation, victim support, and platform response are dispersed across multiple institutions. This study analyzes this structure from the perspective of functional fragmentation and examines an appropriate governance model for integrated management in the AI era. The study combines literature, legal and institutional analysis with a two-mode network analysis of 17 institutions and 11 regulatory functions. It also compares online safety governance in the European Union, the United Kingdom, and Australia and evaluates five institutional alternatives for Korea. The analysis indicates that detection and information-gathering functions are widely dispersed, while legal review, blocking, and investigative functions are concentrated among a smaller number of institutions. Information sharing therefore functions as a critical connector across the fragmented system. Based on these findings, this study proposes a model combining a national AI-based common platform with a dedicated information, analysis, and coordination body. Rather than absorbing the statutory powers of existing agencies, the proposed body would operate an integrated data hub, conduct AI-assisted detection and linkage analysis, assess risks, provide early warnings, and coordinate multi-agency cases. Final legal decisions, criminal investigations, sanctions, and specialized victim support would remain with competent agencies. The core principle is to retain specialized authority within existing institutions while integrating information, analysis, and coordination. Safeguards including human oversight, purpose limitation, differentiated access control, algorithmic auditing, appeal procedures, and independent supervision should accompany the model.

한국어

디지털 플랫폼과 생성형 AI의 발전은 불법 정보 및 콘텐츠의 생성, 변형, 복제, 유통방식등을 변화시키고 있다. 그러나 국내 관리체계는 디지털 성범죄, 마약, 불법도박, 불법금융, 개인정보 및 저작권 등 정책 영역별로 다수 기관에 분산되어 있어 탐지, 심의, 차단, 수사, 피해구제 과정에서 지속적인 정보 공유와 업무 조정이 요구된다. 이 연구는 이러한 구조를 기능적 분절의 관점에서 분석하고 AI시대에 적합한 국가 차원의 통합관리체계와 전담기구의 모델을 제시하는 것을 목적으로 한다. 이를 위해 국내외 선행연구, 법령, 정부·공공기관 자료를 분석하고, 국내 17개 기관과 11개 대응기능의 관계를 기관-기능 네트워크로 구성하여 연결 정도, 매개중심성 및 밀도를 분석하였다. 또한 유럽연합, 영국, 호주 등의 온라인 안전관리체계를 비교하고 국내의 다섯 가지 도입 모델을 평가하였다. 분석 결과 탐지와 정보수집 기능은 다수 기관에 분산되어 있는 반면, 심의·차단·수사 기능은 상대적으로 제한된 기관에 집중되어 있었고, 기관 간 정보공유가 전체 관리체계를 연결하는 핵심 기능으로 나타났다. 이에 이 연구는 기존 기관의 전문 권한은 유지하되 국가 불법 정보 통합 데이터 허브, 인공지능 기반 탐지·분류·연계분석, 위험평가·조기경보 및 기관 간 사건 조정을 담당하는 정보·분석·조정형 전담기구와 AI 공동플랫폼을 결합하는 모델을 제안한다. 다만 AI 기반 통합관리는 개인정보와 표현의 자유에 영향을 미칠 수 있으므로 인간의 최종 판단, 목적 제한, 접근권한 차등화, 알고리즘 검증 및 독립적 감독을 병행할 필요가 있다.

목차

국문요약
Ⅰ. 서론
Ⅱ. 불법 정보 및 콘텐츠 관리에 관한 이론적 논의
Ⅲ. 불법 정보 및 콘텐츠 관리체계의 구조와 네트워크 분석
Ⅳ. AI 기반 통합관리체계 도입 모델
Ⅴ. 결론
참고문헌
Abstract

키워드

저자

• 송봉규 [ Song Bong Gyu | 한세대학교 IT학부 융합보안전공 부교수 ]

참고문헌

발행기관

간행물

표지보기 관심저널 등록

• 간행물명

  한국중독범죄학회보 [Korean Association of Addiction Crime Review]

• 간기

  계간

• pISSN

  2234-4519

• 수록기간

  2011~2026

• 등재여부

  KCI 등재

• 십진분류

  KDC 334 DDC 361