Earticle

초록

영어

This study analyzes the domestic and international status of AI-based hate speech filtering technology and proposes domestic legalization measures based on the premise that if Internet users are continuously exposed to hate speech for a long period of time, it may spread as a hate crime and strengthen social conflicts. In Korea, regulations are limited because there are no legal regulations on hate speech that is spreading through online platforms and social media, but overseas countries such as the EU have implemented systems that define the duties of platform operators along with conceptual regulations. Therefore, it examines the current state of hate speech filters using AI and suggests the direction of establishing standards through legalization to improve the efficiency of hate speech detection in Korea, an approach based on a pre-response system rather than post-punishment to reach an agreement on freedom of expression and the possibility of misuse, and the establishment of an integrated response system to ensure transparency.

한국어

본 연구는 인터넷 사용자가 혐오표현에 장기간 지속적으로 노출될 때 증오범죄로 확산되고 사회적 갈등이 강화될 가능성 을 전제하여 AI 기반 혐오표현 필터링 기술의 국내외 현황과 사례를 분석하고 국내 법제화 방안을 제시한다. 한국은 온라인 플랫폼과 SNS를 통해 확산되고 있는 혐오표현에 대한 법적 규정이 없어 규제에 한계가 있지만, EU 등 해외에서는 개념 규정 과 함께 플랫폼 사업자의 의무를 규정하는 제도를 시행하고 있다. 따라서 AI를 활용한 혐오표현 필터링 현황을 살펴보고 국내 혐오표현 탐지 효율성 제고를 위해 법제화를 통한 기준 마련, 표현의 자유와 악용 가능성에 대한 합의를 이뤄내기 위한 사후 처벌이 아닌 사전 대응 체계에서의 접근, 그리고 투명성 확보를 위한 통합 대응 시스템 구축 방향을 제시한다.

목차

요약
ABSTRACT
1. 서론
2. AI를 활용한 필터링 기술 현황
2.1 주요 필터링 기술
2.2 국내외 플랫폼 적용 사례
2.3 AI 필터링 기술의 한계
3. 혐오표현 필터링 제도화 해외 사례
4. 혐오표현 AI 필터링 법제화 방안
4.1 국내 법제화 방향
4.2 플랫폼 책임 강화
4.3 혐오표현 AI 필터링 규제방안 수립 과정
5. 결론
참고문헌

키워드

저자

• 김세연 [ Se-Yeon Kim | 대전대학교 대학원 안보융합학과 석사과정 ] 제1저자
• 민병기 [ Byung-Ki Min | 대전대학교 안보융합학과 ] 공동저자
• 엄정호 [ Jung-Ho Eom | 대전대학교 군사학과 ] 교신저자

참고문헌

발행기관

간행물

표지보기 관심저널 등록

• 간행물명

  융합보안논문지 [Jouranl of Information and Security]

• 간기

  연5회

• pISSN

  1598-7329

• 수록기간

  2001~2026

• 등재여부

  KCI 등재

• 십진분류

  KDC 005 DDC 005