Earticle

초록

영어

This study examines whether “emotional dependency” arising from interactions with generative artificial intelligence— particularly chatbots—can be recognized as “damage” under civil law. In light of recent cases in the United States, such as the Character.AI incident, where conversations with AI have led to severe consequences including user suicide, this study seeks to move beyond viewing such interactions as mere communication and instead considers whether the negative outcome of “emotional dependency” can be subsumed within the legal concept of damage. This reflects the broader need to reassess the traditionally property-centered notion of damage in response to the deep integration of artificial intelligence into everyday life. Indeed, the use of generative AI is rapidly expanding both domestically and internationally, and users increasingly perceive AI not merely as a tool, but as a counselor, a friend, or even an entity for emotional interaction. This tendency is particularly pronounced among vulnerable groups such as adolescents, where excessive engagement with AI chatbots may go beyond immersion and, through anthropomorphization, foster a sense of social presence and realism, thereby leading to emotional attachment and dependency, with potential risks of social isolation and exacerbation of mental health issues. Against this background, the article explores whether emotional dependency may fall within the existing legal concept of damage under the Korean Civil Code. It reviews judicial precedents and academic theories that demonstrate how the concept of damage has evolved beyond purely economic disadvantage toward a more normatively expanded understanding, and argues that, under certain circumstances, emotional dependency may be recognized as a form of non-pecuniary damage. To this end, the article examines relevant Korean case law analogous to emotional dependency in AI chatbot interactions, including a decision of the Seoul Northern District Court in which the plaintiff experienced a “transference phenomenon” during a counseling process. The case illustrates that it is foreseeable for a client to develop emotional transference toward a counselor, and that the court recognized a corresponding duty of care. The article suggests that a similar duty may arise in the context of AI chatbot development, insofar as developers can foresee extreme outcomes when risk factors are identifiable within user interactions, even in a virtual environment. Furthermore, the article considers whether emotional dependency may constitute an infringement of personality rights and introduces a proposed amendment to Article 751 of the Korean Civil Code. Finally, it briefly examines potential violations of obligations under the “Framework Act on the Development of Artificial Intelligence and the Establishment of a Foundation for Trust,” assessing their relevance to the issues discussed.

한국어

이 논문은 생성형 인공지능, 특히 챗봇과의 상호작용 과정에서 발생하는 ‘정서적 의존(emotional dependency)’을 중심으로, 이러한 현상이 민사법상 ‘손해’로 평가될 수 있는지에 대한 문제를 다루고자 한다. 최근 미국 Character.AI 사건과 같이 인공지능과의 대화가 이용자의 자살 등 중대한 결과로 이어질 수 있는 사례가 등장하면서, 단순히 대화를 넘어서 “정서적 의존”이라는 부정적인 결과를 손해의 개념으로 포섭해 보려는 시도를 하였다. 이는 인공지능의 활용이 우리 삶 깊숙이 침투함에 따라 전통적으로 재산적 손해를 중심으로 구성되어 온 손해 개념을 새로운 시각으로 바라보아야 하는 시대적 상황을 강조하고자 하였다. 실제로 생성형 인공지능의 활용은 국내·외에서 급격히 확산되고 있으며, 이용자들은 인공지능을 단순한 도구가 아니라 상담자, 친구, 나아가 감정적 교류의 대상으로 인식하는 실태를 보이고 있다. 더욱이 청소년과 같이 정서적으로 취약한 이용자 집단에서는 인공지능 챗봇의 과도한 사용은 몰입을 넘어 의인화를 통한 사회적 존재감과 실재감을 강화하여 정서적 애착과 의존으로 이어지고, 현실 세계와의 관계 단절이나 정신적 문제를 심화시킬 위험이 존재한다. 이에 대해 논문은 정서적 의존이 기존 민법상 손해 개념에 포함될 수 있는지 판단하면서 손해 개념이 단순한 경제적 불이익에 국한되지 않고 규범적으로 확장되어 온 판례와 학설의 흐름에 제시하였고, 일정한 경우 비재산적 손해로서 인정될 가능성이 있음을 보이고자 하였다. 이를 위하여 생성형 인공지능 챗봇과의 정서적 의존 관계에 대응 해 볼 수 있는 우리 판례를 찾기 위하여 서울북부지방판결 중에서 상담과정에서 피고와 “감정적 전이 현상”을 겪은 원고의 사례를 통하여 내담자가 상담자에게 전이 감정을 가질 수 있음을 예견할 수 있었던 사례를 통하여 우리 법원이 보호의무를 인정한 사례를 제시하였다. 인공지능 챗봇의 개발의 단계에서도 이러한 가상의 상황이라는 점을 제시하고 사용자의 대화 내용 중 위험 요소가 식별되는 경우에는 보호의무에 따라서 극단적 상황을 예견할 수 있었음에 공통점이 있다고 판단되었기 때문이다. 또한 논문은 정서적 의존이 인격권의 침해 가능성에 대하여 살펴보면서 우리 민법 제751조에 대한 개정안을 소개하였고, 마지막으로 「인공지능 발전과 신뢰기반 조성 등에 관한 기본법」상의 의무 위반 여부에 대한 판단을 간략히 살펴보았다.

목차

Ⅰ. 들어가는 말
Ⅱ. 생성형 인공지능의 활용에 따른 ‘정서적 의존’의 문제
1. 생성형 인공지능의 활용 실태
2. 생성형 인공지능의 활용과 ‘정서적 의존’
Ⅲ. 챗봇에 대한 ‘정서적 의존’에 대한 법적 고찰
1. 챗봇에 대한 ‘정서적 의존’ 문제의 대두
2. ‘정서적 의존’으로 인한 손해와 민사책임의 문제
3. 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」(약칭:인공지능기본법) 상의 의무 위반 여부 판단
Ⅳ. 나가며
< 참고 문헌 >
<국문초록>

키워드

저자

• 이수경 [ Sookyoung Lee | 법학박사, 계명대학교 법학과 조교수 ]

참고문헌

발행기관

간행물

표지보기 관심저널 등록

• 간행물명

  민사법의 이론과 실무 [Journal of Theory and Practics of Private Law]

• 간기

  연3회

• pISSN

  1598-9801

• 수록기간

  2002~2026

• 등재여부

  KCI 등재

• 십진분류

  KDC 365 DDC 347