Earticle

초록

영어

The Framework Act on the Development of Artificial Intelligence and the Establishment of Trust (hereinafter "AI Framework Act") employs the term "safety" across multiple provisions, yet Article 2 (Definitions) does not provide an independent definition of the concept. This definitional lacuna renders the scope of safety assurance obligations and the criteria for determining regulatory non-compliance ambiguous, thereby creating practical difficulties in regulatory enforcement and legal predictability. This study aims to analyze the normative meaning and limitations of the "safety" concept under the AI Framework Act and to propose a normative reconstruction through a comparative legal examination of the European Union, the United States, and Japan. To this end, the study first examines the lexical meaning of "safety," the conceptual distinction between Safety and Security, and sector-specific variations in the safety concept, followed by a technical analysis of AI Safety and AI Security. Furthermore, the study conducts a comparative legal review of the EU AI Act's quantitative definition of risk and its dual regulatory structure for Safety and Security, California's SB 53 and its legal incorporation of AI-specific risk types with quantitative thresholds, and Japan's AI Promotion Act with its non-coercive guidance-based approach. The analysis reveals that the AI Framework Act exhibits structural limitations, including the absence of a statutory definition of "safety," the lack of probability-severity measurement criteria for the concept of "risk," and the failure to differentiate between AI Safety and AI Security. Accordingly, this study proposes a normative reconstruction of the safety framework through the introduction of independent definitions of "AI safety" and "risk" in Article 2, the hierarchical systematization of protected legal interests and the explicit bifurcation of AI Safety and AI Security within the current Article 32.

한국어

｢인공지능 발전과 신뢰 기반 조성 등에 관한 기본법｣(인공지능기본법)은 복수의 조항에서 '안전'이라는 용어를 사용하고 있으나, 제2조(정의)에 '안전'에 대한 독립적 정의를 두고 있지 않다. 이로 인해 안전성 확보 의무의 이행 범위와 위반 여부의 판단 기준이 모호해져, 규제 적용과 법적 예측 가능성에 실질적 어려움이 초래될 수 있다. 본 연구는 인공지능기본법상 '안전' 개념의 규범적 의미와 한계를 분석하고, EU·미국·일본의 비교법적 고찰을 통해 안전 개념의 규범적 재구성 방안을 제시하는 것을 목적으로 한다. 이를 위해 먼저 안전 개념의 사전적 의미와 Safety·Security의 개념적 구분, 분야별 안전 개념의 차이를 고찰하고, AI Safety(정렬·견고성·해석가능성·통제가능성)와 AI Security(적대적 공격·데이터 오염·모델 탈취 방어)의 기술적 개념을 분석하였다. 나아가 EU AI Act의 위험 정량적 정의 및 Safety·Security 이원적 규율 구조, 미국 SB 53의 AI 고유 위험 유형의 법적 포섭과 정량적 임계값 설정, 일본 AI 촉진법의 비강제적 지도·조언 방식을 비교법적으로 검토하였다. 분석 결과, 인공지능기본법은 '안전' 정의의 부재, '위험' 개념의 확률·심각성 측정 기준 결여, AI Safety와 AI Security의 미분화라는 구조적 한계를 가지는 것으로 확인되었다. 이에 본 연구는 제2조에 '인공지능안전'과 '위험'의 독립적 정의 신설, 보호법익의 계층적 체계화, 현행 제32조의 AI Safety와 AI Security 이원적 구분을통한 안전 체계의 규범적 재구성을 제안한다.

목차

【 요 약 】
Ⅰ. 서론
Ⅱ. 안전 개념의 일반적 고찰
Ⅲ. 인공지능 기술적 특징과 안전
Ⅳ. 주요국 AI법제에서의 '안전' 개념 비교 분석
Ⅴ. 인공지능기본법상 안전 개념의 규범적 재구성
Ⅵ. 결론
참고문헌
【Abstract】

키워드

저자

• 김종성 [ Kim, Jong-Seong | 신한대학교 글로벌무역학과 조교수 ] 제1저자
• 홍준호 [ Hong, Jun-Ho | 성신여자대학교 융합보안공학과 조교수 ] 교신저자

참고문헌

발행기관

간행물

표지보기 관심저널 등록

• 간행물명

  한국산업보안연구 [Korean Journal of Industry Security]

• 간기

  연3회

• pISSN

  2765-2327

• eISSN

  2733-8363

• 수록기간

  2009~2026

• 등재여부

  KCI 등재

• 십진분류

  KDC 325 DDC 330