Earticle

본고에서는 ｢인공지능 발전과 신뢰 기반 조성 등에 관한 기본법｣(이하 인공지능기본법)에서 정의하는 ‘고영향 인공지능’의 개념과 법적 구조를 분석하고, 그것이 가지는 헌법적 쟁점을 다각도로 검토한다. 특히 인간 의 생명, 신체, 안전, 기본권 등에 중대한 영향을 미칠 수 있는 인공지 능 시스템에 대해 헌법적 통제의 필요성과 방향성을 제시하는 데 주안점 을 두었다. 최근 생성형 인공지능 등 기술의 급격한 발전과 함께 인공지능의 결정과 판단이 인간의 삶에 직접적인 영향을 미치는 고위험 분야로 빠르게 확산되고 있으며, 이로 인해 기술의 중립성을 전제로 한 기존 법 제의 한계가 명확히 드러나고 있다. 이에 따라 본 연구는 세계 최초의 포괄적 인공지능 규제법인 EU의 ｢AI Act｣와 우리나라 인공지능기본법을 비교법적으로 분석하였다. EU의 AI 규제법은 인공지능을 위험도에 따라 전면금지ㆍ고위험ㆍ제한적 위험ㆍ최 소 위험으로 분류하고, 위험 수준에 따라 차등적인 규제와 처벌을 명시 함으로써 기본권 침해 가능성에 대응하고 있다. 반면, 우리나라 인공지 능기본법은 ‘위험’ 대신 ‘영향’이라는 개념을 도입하여 규제의 수위를 낮 추고, 영향평가 및 자율적 책임 강화 방식에 초점을 두고 있는 점에서 산업 진흥 중심의 정책 방향을 반영하고 있다. 그러나 이러한 영향평가 방식은 실질적인 통제 수단이 되기에는 한계가 있으며, 기본권 침해 상 황에 대한 예방적 대응이나 사후적 구제 수단이 미흡하다는 평가를 받을 수 있다. 고영향 인공지능은 채용, 대출, 의료, 교통, 공공행정 등 다양한 분야 에서 인간의 존엄성과 권리에 직접적인 영향을 미칠 수 있다. 이로 인해 개인정보 자기결정권, 평등권, 직업 선택의 자유, 적법절차 원칙 등 헌법 상 핵심 권리들이 위협받을 수 있으며, 이에 대한 입법적 대비가 불충분 한 경우 규제 공백 상태에서 예기치 못한 권리침해가 발생할 우려가 있 다. 특히 고영향 인공지능의 의사결정 구조는 인간의 개입 여지를 약화 시키고, 알고리즘 편향, 설명 불가능성, 책임소재 불명확성 등의 문제를 동반함으로써, 기존의 헌법질서에 적합한 새로운 규율체계의 필요성을 강하게 제기하고 있다. 따라서 본 논문은 고영향 인공지능에 대한 규제는 단순한 기술 통제 를 넘어서 헌법적 정당성과 국민의 기본권 보호를 최우선에 두어야 한다 고 본다. 이를 위해 고영향 인공지능의 정의와 규제 대상 범위를 보다 명확하게 설정하고, 영향평가 제도의 실효성을 확보하며, 설명가능성과 이의제기 절차를 보장하는 법적 장치를 마련하는 것이 시급하다. 또한 인간 중심의 AI 원칙, 데이터 편향 방지 의무, 개인정보 최소수집 원칙, 사회적 재교육 및 안전망 구축 등을 통해 기술의 진보와 권리 보호의 균형을 실현하는 것이 중요하다. 본 연구는 헌법적 관점에서 인공지능기 본법을 재조명함으로써, 향후 인공지능 규제정책의 정합성과 제도적 완결성을 확보하는 데 기여하고자 한다.

This paper examines the constitutional implications of the term "High-Impact Artificial Intelligence" (HI-AI) as defined in Korea’s Framework Act on the Promotion of AI and Establishment of Trust (2024). With the rapid development of generative AI and its increasing integration into high-risk sectors such as healthcare, public administration, finance, and transportation, concerns about potential infringements on fundamental rights—such as human dignity, privacy, and equality—are intensifying. In response, this study analyzes the legal responsibilities and regulatory framework imposed on HI-AI in Korea’s framework law, while engaging in a comparative legal analysis with the European Union’s Artificial Intelligence Act, the world’s first comprehensive AI regulatory regime. The EU AI Act adopts a risk-based classification model, introducing strict prohibitions and pre-market requirements for AI systems that pose unacceptable or high risks to fundamental rights. In contrast, Korea’s framework law employs the term “high-impact” rather than “high-risk,” emphasizing regulatory management through transparency, user protection, and human oversight without corresponding enforcement measures or sanctions of comparable magnitude. While the Korean law is more industryfriendly and oriented toward technological promotion, it faces criticism for its limited legal enforceability and potential gaps in rights protection. From a constitutional perspective, HI-AI systems can affect core rights such as the right to human dignity, the right to informational self-determination, the right to equality, the freedom to choose one’s occupation, and due process. Particularly problematic are issues surrounding algorithmic bias, accountability, lack of explainability, and limited mechanisms for legal redress. As such, this study argues that constitutional legitimacy should form the foundation of any regulatory framework for HI-AI and recommends enhancements to ensure transparency, enforceable rights to explanation and objection, and legal certainty in governance structures. Ultimately, the paper advocates for a balanced regulatory approach that fosters innovation while firmly anchoring AI development within a human-centered constitutional framework. It underscores the necessity for robust institutional safeguards that harmonize AI advancement with the protection of individual rights in the digital age.

누군가는 죽음을 원하지만 그 과정이 불법이라면 결국 해서는 안 된 다. 현재 세계 각국의 안락사 논의에서 불치병을 앓고 있는 환자의 죽을 권리를 인정하는 문제, 즉 안락사는 중요한 문제에 놓여 있다. 최근 몇 년 사이 전 세계적으로 안락사를 합법화하는 나라가 증가하고 있다. 특 히 올해 프랑스 하원에 이어 영국 하원에서도 안락사를 허용하는 법안이 통과되면서, 안락사를 허용하는 흐름이 확산되고 있다. 이처럼 세계적으 로 조력존엄사를 허용하는 흐름이 확산되면서 우리나라도 조력존엄사에 대한 사회적 논의가 계속되고 있다. 우리나라도 국회를 중심으로 관련 법안을 발의했지만, 아직 사회적 합의에 이르지 못해 입법화되지는 못하 였다. 그동안 안락사는 금지어처럼 여겨졌지만, 삶과 죽음의 경계에 직 면한 사람들이 스스로 죽음을 선택할 수 있도록 목소리를 높이면서 이제 더 이상 안락사는 금지어가 아닌 논의의 대상이 되었다. 이는 의학기술 의 발전과 함께 보편적 사고로 인식되어 온 생명의 절대적 보호원칙이 오늘날 새로운 도전에 직면하게 되었다. 이는 의료기술이 발달함에 따 라, 자신의 의지에 따라 원하는 시간과 방법에 따라 가족들이 보는 앞에 서 생명을 품위있게 종결시키고자 하는 욕망을 갖게 되었다. 그러나 안 락사는 환자의 극심한 고통을 경감하고 헌법상 자기결정권의 보장이라는 측면에서 찬성론과 생명 경시 및 오남용 가능성 등의 윤리적 문제로 인 해 반대 의견 또한 만만치 않다. 이 논문은 한 단계 더 나아가 안락사를 제도적으로 허용할 수 있는지 를 전제로 하여 죽음에 대한 사회적 합의를 도출하기 위한 시작에서 출 발한다. 따라서 안락사의 개념과 혼용되어 사용되는 ‘의사조력자살’과 ‘존엄사’에 대한 이해를 바탕으로 안락사를 허용하고 있는 EU 국가들의 입법 현황을 검토하여 향후 안락사의 공론화를 통해 입법적 방안에 대해서 고찰하고자 한다.

Some people desire death, but if the process is illegal, it ultimately shouldn't be done. In the current global debate over euthanasia, recognizing the right to die for terminally ill patients— in other words, euthanasia—is a crucial issue. In recent years, the number of countries legalizing euthanasia has increased worldwide. This year, following the French House of Commons, the British House of Commons passed a bill permitting euthanasia, further expanding the trend toward euthanasia. As the global trend toward assisted death with dignity continues, the social debate on assisted death with dignity continues in Korea. While related bills have been proposed in the National Assembly, they have yet to be enacted due to a lack of social consensus. While euthanasia was once considered taboo, it is now a topic of discussion, not a taboo, as people facing the boundary between life and death increasingly call for their own death. This shift, coupled with advances in medical technology, means that the principle of absolute protection of life, once universally recognized, is now facing new challenges. Advances in medical technology have fostered a desire for individuals to have their lives ended with dignity, at their own will, and in the presence of their families, at their own desired time and method. However, euthanasia faces considerable opposition, both in its support for alleviating patients' extreme suffering and guaranteeing their constitutional right to self-determination, and in its ethical concerns, such as the potential for disregard for life and abuse. This paper takes a step further, starting with the premise of institutionally permitting euthanasia and seeking to build a social consensus on death. Therefore, based on an understanding of "physician-assisted suicide" and "death with dignity," which are often used interchangeably with the concept of euthanasia, this paper examines the legislative status of EU countries that permit euthanasia. It will then explore legislative measures to raise public awareness of euthanasia.

주요국은 인공지능 위험을 통제하기 위하여 인공지능에 대한 규제 입 법을 마련하고 있다. 인공지능으로 인한 위험을 구체화하는 것으로부터 출발해서, 위험성이 높은 인공지능에 대하여는 다양한 통제수단들을 적 용하고 있다. 인공지능을 개발ㆍ적용ㆍ배포ㆍ사용하는 사업자 등에 대하 여 데이터 관리, 인공지능시스템과 서비스에 대한 품질관리, 위험관리, 기록관리, 개인정보보호 등의 의무를 부과하는 것을 주요 내용으로 한 다. 사용자에 대해서는 설명요구권이나 피해구제를 적절하게 받을 수 있 도록 권리를 보장하고 있다. 인공지능의 자율성이나 예측불가능성, 불확 실성 등으로 인해 그 동안의 규제 체계 내에서 포섭하지 못하는 문제점들을 해소하기 위해 다양한 위험 통제수단들을 마련하고 있는 것이다. 이에 반해 한국은 아직까지는 위험 통제에 대한 것보다 법제도적 관심이 산업의 진흥이나 기술 발전을 위한 기반 마련이나 이를 통한 국가경쟁력 확보 등에 있는 듯하다. 인공지능기술이 빠르게 발전하고 있고 특히 최 근에는 ChatGPT와 같은 생성형 AI 등의 등장으로 변화가 급격하게 다 른 양상으로 일어날 것으로 예상되고 있다. 인공지능 위험은 더욱 불확 실하고 예측 불가능한 상태로 나타날 가능성이 높아지고 있다. 이러한 상황에서 인공지능 기술의 효용은 극대화하고 위험성은 최소화하여 기술 의 이기를 누릴 수 있는 제도적 기반을 마련하는 것은 우리 사회의 중 요한 과업이라 할 수 있다. 이에 본 논문은 주요국에서 인공지능의 위험 을 통제하는 방식과 내용을 검토ㆍ비교분석을 실시하였다. 주요국의 입 법동향 확인을 통해 시사점을 도출하고, 국내 인공지능 규제 도입시 적정한 설계 방향과 통제 수단들을 제안하였다.

Major countries have establsihed the legislative regulatations to control the risks of AI. Starting from concretizing the risks associated with AI, various control measure are applied to AI with higher risks. For businesses involved in the development, application, deployment, use of AI, the main focus of the control measures is on the data management, quality control of AI systems and services, risk management, record management, personal information protection. For users of high-risk AI systems, the focus is on ensuring the right to request explanations and receive appropriate compensation for damages. These measures are being put in place to overcome the issues that traditional regulatory systems were unable to address due to AI's autonomy, unpredictability, and uncertainty. In contrast, South Korea seems to be more concerned with the legal framework for industrial promotion and technological development, and for securing national competitiveness, rather than risk control. The rapid development of AI technology, especially with the emergence of generative AI such as ChatGPT, is leading to abrupt and significant changes. Therefore, the possibility of AI risks appearing in an increasingly uncertain and unpredictable state is high. In such a situation, maximizing the utility of AI technology and minimizing its risks to enjoy its benefits is an important task for our society. This paper has reviewed and comparatively analyzed how major countries control the risks of AI. By identifying the legislative trends in major countries, By identifying the legislative trends in major countries, we have drawn insights and proposed appropriate design directions and control measures for the introduction of AI regulations in South Korea.

지구온난화의 원인인 기후변화 또는 기후위기는 우리 헌법이 규정하 고 있는 기본권과 직접 관련된 문제로 환경권, 평등권, 사회권의 관점에 서 다루어질 수 있으며, 더 넓게는 인간의 존엄과 가치 그리고 행복추구권 관점에서도 논의될 수 있을 것이다. 또한, 기후위기 문제는 앞서 언 급한 기본권적인 측면 이외에도 민주주의 관점에서의 접근이 가능한데, 오늘날 기후위기로 인해 발생하고 있는 개인의 재산 및 인명 피해에 관 해 정부가 기존과는 다르게 보다 적극적으로 대응해야 한다는 시민들의 목소리가 바로 그것이다. 즉, 기후위기 대응에 있어서 시민은 더 이상객체가 아니라 국가, 지방자치단체 등과 더불어 문제를 공유하고 함께 해결해 나가야 할 주체인 것이다. 이에 우리나라 정부도 전 세계적으로 문제가 되고 있는 위와 같은 기 후위기문제에 대응하고자 2021년 5월, 관련부처, 전문가, 시민단체로 구 성된 ‘2050 탄소중립위원회’를 신설하였지만, 기존의 위원회의 범주에서 벗어나지 못했다는 지적이 지속적으로 제기되자 이를 보완하기 위해 ‘탄 소중립시민회의’라는 새로운 국민 정책 참여단을 구성하였으나, 여러 가 지 점에서 비판을 받고 있다. 첫 번째 비판은 정부가 환경정책의 내실 없이 민주적 정당성만을 확 보하고자 시민들을 동원하고 있다는 것이다. 두 번째 비판은 외견상 미 니 퍼블릭과 숙의가 잘 갖추어진 것처럼 보이지만, 짧은 숙의 기간을 비롯하여 자문 수준에도 미치지 못하는 의견수렴을 하고 있다는 것이다. 세 번째 비판은 탄소중립시민회의 운영과정에 있어서 참여한 시민이 어 떤 자료로 학습하고 어떤 전문가와 이해관계자로부터 정보를 제공받았는 지 공개되지 않았으며, 참여시민이 학습한 동영상 자료도 정부의 정책 방향에 우호적인 강연자로 구성하여 매우 편향적이라는 것이다. 따라서 생각건대 유럽연합 내 기후위기 대응에 있어 시민참여의 대표 사례 국가로 인식되고 있는 프랑스의 기후시민의회 사례와 비판은 위와 같은 지적을 받고 있는 우리나라 탄소중립시민회의가 차후 기후위기에 더 잘 대응하고 시민의 목소리를 제대로 반영하여 사회적 신뢰를 형성하 는데 좋은 참고가 될 수 있을 것이라 판단된다.

Climate change or climate crisis, the cause of global warming, is a problem directly related to the fundamental rights stipulated in our Constitution and can be dealt with from the perspective of environmental rights, equality rights, and social rights. More broadly, it can be discussed from the viewpoint of human dignity and value and the right to pursue happiness. In addition, the climate crisis issue can be approached from the perspective of democracy in addition to the aforementioned fundamental rights. In other words, in responding to the climate crisis, citizens are no longer an object, but a subject to share and solve problems with the state and local governments. Accordingly, the Korean government established the ‘2050 Carbon Neutrality Committee’ in May 2021, composed of related ministries, experts, and civic groups, to respond to the climate crisis that is becoming a global problem. However, it has been criticized in several respects. Therefore, I think the case of the Climate Civic Council in France, which is recognized as a representative example of citizen participation in responding to the climate crisis in the European Union, is that Korea's Carbon Neutral Citizens Council, which is being criticized as above, will respond better to the climate crisis and promote citizen participation in the future. It is judged that it will be a good reference for forming social trust by properly reflecting the voice.

본 연구는 2024년 개정된 ‘교권 5법’의 의의와 한계를 분석하고, 헌 법적 관점에서의 한계와 개선방향을 구체적으로 제시하였다. 그간 교권 보호는 교육학, 교육법 영역에서 논의가 주를 이루고 헌법적 관점에서의 고찰은 상대적으로 부족하였다. 이와 같은 문제를 인식한 본 연구는 교 권의 헌법적 의미를 고찰하였다. 헌법적 관점에서 교권을 어떻게 해석해 야 하는지, 또 이와 같은 논의가 헌법적 정당성을 가지는지 여부를 심층 적으로 검토하였다. 특히 교권보호는 단순히 교사의 개인적인 권리나 직무 수행의 편의성 확보에 그치지 않고, 국가의 교육과제의 실현하는 ‘공적인 권한과 책무’ 로 이해되어야 한다는 것을 주장하였다. 교권은 다양한 교육주체가 모이 는 학교라는 영역 안에서 전문적인 판단과 자율성을 바탕으로 구현되는 것으로, 헌법상 보장되는 교육의 자주성, 전문성, 공공성의 보장이 전제 되어야 함을 확인할 수 있었다. 이와 같은 맥락에서 교권 보호는 학부모 또는 학생에 대한 방어적 권리보다는 교육의 질 제고, 교육의 평온성 확 보, 교육 공동체의 신뢰 회복 및 구축에 기여하는 것으로 생각할 수 있 을 것이다. 또 교권보호는 사안이 발생할 때 마다 임시방편으로 개정하는 법률적 인 조치에 국한되는 것이 아니라, 헌법적 해석 아래, 다양한 사례에 대 한 구조적이고 체계정합적인 법과 정책적인 접근과 대응이 필요하다고 할 것이다. 무엇보다 학부모와 학생, 교사 간 권리와 책임의 균형이 중 요하고, 한편으로 학교현장에서 발생하는 갈등을 모두 법적으로 해결하 기 보다는 사전에 이를 완화하고 예방할 수 있는 장치도 필요하다. 종합적으로 본 연구는 교권을 헌법적 맥락에서 국가의 교육과제를 실 현하는 공적 권한과 책무라고 해석하며, 향후 교권관련 입법개선과 기초 적인 이론적 토대를 제공한다는 점에서 의의가 있다. 또 헌법적 가치와 교육현장의 요구를 결합하여 종합적인 접근을 제시하여 교권 보호의 장 기적이고 실효성 있는 방향을 제시한다.

This study analyzed the significance and limitations of the "Five Teachers' Rights Acts" revised in 2024 and specifically proposed limitations and directions for improvement from a constitutional perspective. Previous discussions on the protection of teachers' rights have primarily focused on pedagogy and educational law, with a relative lack of discussion from a constitutional perspective. Recognizing this issue, this study examined the constitutional meaning of teachers' rights. It examined in depth how teachers' rights should be interpreted from a constitutional perspective and whether such discussions have constitutional legitimacy. In particular, it argued that the protection of teachers' rights should not simply be limited to securing teachers' personal rights or facilitating their duties, but rather should be understood as a "public authority and responsibility" that fulfills the nation's educational mission. Teachers' rights are implemented based on professional judgment and autonomy within the school, a domain where diverse educational stakeholders gather. This confirms that the constitutionally guaranteed autonomy, professionalism, and public nature of education must be guaranteed. In this context, protecting teachers' rights can be viewed as contributing to improving the quality of education, ensuring educational peace, and restoring and building trust in the educational community, rather than simply protecting the defensive rights of parents or students. Furthermore, protecting teachers' rights should not be limited to ad hoc legal measures that are amended as issues arise. Rather, it requires a structural and systematically coherent legal and policy approach and response to diverse cases, guided by constitutional interpretation. Above all, a balance of rights and responsibilities between parents, students, and teachers is crucial. Furthermore, mechanisms are needed to mitigate and prevent conflicts arising in schools, rather than relying solely on legal solutions. In summary, this study interprets teachers' rights as a public authority and responsibility for achieving the nation's educational mission within the constitutional context. Its significance lies in providing a foundational theoretical foundation and future legislative improvements related to teachers' rights. Furthermore, it offers implications by suggesting a comprehensive approach that combines constitutional values with the needs of the educational field, thereby establishing a long-term and effective direction for protecting teachers' rights.

본 논문은 디지털 전환 사회에서 발생하는 디지털 약자 문제와 그들 의 기본권 보호를 위한 헌법개정의 필요성, 그리고 이를 구체적으로 실 현할 디지털 포용 입법과 정책에 대한 논의를 다룬다. 현대 사회는 디지 털 기술의 급속한 발전과 확산에 의해 크게 변화하고 있으며, 특히 정보 와 통신 기술(ICT)의 활용이 경제적, 사회적 기회의 중요한 기반으로 자 리잡고 있다. 그러나 이 과정에서 디지털 기술에 접근할 수 없는 계층은 심각한 정보격차와 사회적 배제에 직면하게 된다. 이러한 디지털 격차 문제는 단순히 기술적 문제에 그치지 않고, 기본권 차원에서 심각한 불평등을 초래하며, 이는 결국 사회적 약자의 권리 침해로 이어질 수 있다 는 점에 문제가 있다. 이에 디지털 약자에게 발생하는 정보접근 불평등, 디지털 리터러시 부족, 그리고 기술적 배제로 인한 권리 침해 문제를 해 결하기 위한 방안을 모색하고자 한다. 특히, 디지털 격차 문제를 해소하 고 디지털 약자의 권리를 보호하기 위해서는 새로운 법적 장치와 제도적 변화, 그리고 이를 위한 헌법개정의 필요성을 강조한다. 이 중 디지털 기본권의 신설은 디지털 기술에 대한 접근과 활용의 평등을 보장하고, 모든 시민이 디지털 사회에서 차별 없이 참여할 수 있는 권리를 확보하 는 데 기여할 것이라 생각된다. 따라서 디지털 기본권은 단순히 정보의 접근 권리를 넘어, 디지털 환경에서의 평등한 참여, 개인정보 보호, 디지 털 교육 기회의 보장 등 다양한 측면을 포함할 수 있어야 할 뿐만 아니 라, 디지털 약자의 실효적 권리 보호를 위한 법적, 제도적 장치의 마련 과 이를 구현하기 위한 정책적 노력 역시 중요하다. 이러한 점을 바탕으 로 본 논문은 디지털 포용사회의 실현을 위한 국가의 역할과 책임을 강 조하면서 단순히 디지털 기술의 보급과 확산을 넘어, 사회적 약자와 소 외계층이 디지털 환경에서 배제되지 않도록 보장하는 사회적 구조 개선 을 위한 헌법적 의무를 논의하는 바이다. 이와 함께 디지털 시대에 적합 한 정책·제도적 대응에 대해서도 고민한다. 사회적 기본권으로서의 디지 털 기본권의 보장은 단순히 기술적 측면을 넘어, 디지털 사회에서 인간 다운 삶을 보장하는 중요한 인권적 측면의 접근이며, 이는 반드시 이를 구체화할 수 있는 다양한 방안을 동반해야만 실현 가능하기 때문이다.

This paper discusses the issue of digital marginalization in the context of the digital transformation society, the need for constitutional amendments to protect the fundamental rights of digital minorities, and the legislative and policy measures required to concretely realize digital inclusion. Modern society is undergoing significant change due to the rapid development and widespread use of digital technologies, with information and communication technologies (ICT) becoming a crucial foundation for economic and social opportunities. However, in this process, those who lack access to digital technologies are facing severe information inequality and social exclusion. This digital divide is not merely a technical issue but leads to serious inequalities at the level of fundamental rights, potentially infringing on the rights of marginalized groups. Thus, this paper seeks to explore solutions to the issues of unequal access to information, lack of digital literacy, and rights violations caused by technological exclusion faced by digital minorities. In particular, to address the digital divide and protect the rights of digital minorities, new legal frameworks and institutional changes are necessary, with a specific emphasis on the need for constitutional amendments. Among these, the establishment of digital fundamental rights is considered a critical measure to ensure equal access to and utilization of digital technologies, guaranteeing the right of all citizens to participate in the digital society without discrimination. Furthermore, digital fundamental rights should encompass more than just the right to access information, including the right to equal participation in the digital environment, protection of personal data, and the provision of digital education opportunities. In addition to these rights, it is essential to establish legal and institutional mechanisms to effectively protect the rights of digital minorities and implement relevant policy efforts. This paper also emphasizes the role and responsibility of the state in realizing a digital-inclusive society, arguing that the state must go beyond simply expanding digital technologies to ensure that socially disadvantaged and marginalized groups are not excluded from the digital environment. It discusses the constitutional obligation to create a social structure that guarantees their inclusion. Additionally, the paper considers appropriate policy and institutional responses suitable for the digital age. The protection of digital fundamental rights, as a social basic right, goes beyond the technical aspects of digital access, serving as a crucial human rights issue that ensures a dignified life in the digital society. Achieving this requires concrete strategies and diverse measures that can translate these rights into reality.

웹2.0의 기술 확산으로 인터넷 환경이 사용자 참여 중심으로 변화함에 따라 소셜 네트워크 서비스(이하 SNS라 한다)가 확산되고 있는 바, SNS의 이용자들은 트위터, 페이스북, 미투데이, 마이스페이스, 유튜브 등으로 자신의 생각, 정보, 의견 등을 단문 메시지를 통해 다른 사람들과 소통하고 있다. SNS는 인터넷상에서 공통의 관심사를 갖는 SNS이용자들 상호간 팔로어를 형성하고, 팔로우간 콘텐츠와 정보를 공유하고 다양한 의견 교환을 할 수 있는 서비스를 구축하여, 전 세계에 쌍방향적 네트워크를 통해 실시간 언제나 접근을 가능하게 한다. SNS의 등장으로 인터넷 여론을 주도하는 포털은 영향력이 점차 줄어들고 SNS가 인터넷 여론을 주도하는 것으로 인터넷 매체의 환경이 전환되었다. SNS의 발달로 세계 어느 곳에 있는 정보일지라도 검색하여 이용할 수 있고, 정보의 생산자와 소비자의 역할을 언제라도 바꿀 수 있게 함으로써 능동적으로 지식을 추구할 수 있고, 자신의 홈페이지나 미니홈피, 블로그 등을 통해 사상이나 의견, 주장 등을 전 세계에 알릴 수 있다. 이는 정보의 수집 · 이용 · 관리가 종전의 은폐적 · 수직적 · 불평등적인 원리에서 투명적 · 수평적 · 평등적인 원리가 구현되는 네트워크 사회가 되었음을 알 수 있다. SNS사회는 언론자유 주체간의 역학관계를 바꾸고 있으며, 이 가운데 특히 국가와 국민, 언론기관과 국민, 국가와 언론기관 간의 역학관계가 새롭게 재편되고 있다. 국가, 언론기관, 국민 간에 누가 디지털미디어와 네트워크를 잘 활용하느냐에 따라 국가나 언론기관의 권력을 더 강력하게 만들기도 하고, 상대적으로 힘이 약한 국민도 액세스권과 알권리를 활용함으로써 균형 있는 언론자유 3면관계가 형성된다. 이렇게 볼 때 네트워크 구조는 결코 중립적인 것이 아니며, 경우에 따라 중앙집권화를 강화시키기도 하고 분권화현상으로 나타나기도 한다. 중앙집권화와 분권화의 반복현상으로 원리가 완전히 균형을 잡는 것은 불가능하지만, 현실적으로 힘이 약한 국민에게 힘을 실어주는 것이 SNS사회의 속성이다. 이러한 디지털 사회에서 SNS 등을 통한 개인의 명예훼손이나 프라이버시 침해에 대해 표현의 자유의 법리로 보호할 것인가 아니면 국가가 법적으로 규제할 것인가에 대한 논쟁에서 시민의 자율규제를 통해 해결할 것을 주장한다. 시민의 권리를 강화하는 방안에서 자율규제는 네트워크 액세스권을 더욱 보장하는 방향으로 해결하여야 하는 것이다. 이는 네트워크 공간에서 능동적 수용자로 활동하는 시민의 권리를 정치적 표현을 포함한 모든 의사표현의 자유로 네트워크에 대한 액세스권의 보장이 필요하다. 공직선거법 제93조 제1항 등 위헌확인 심판 사건의 판결의 헌법적 의의는, SNS를 통한 상시선거운동을 허용한다는 것은 ‘전자역감시 원리’가 작동하는 능동적 ‘디지털 수용자’인 국민이 네트워크 액세스권을 행사한 것으로 볼 수 있다고 해석할 수 있다.

Due to the spread of Web 2.0 technologies, the Internet environment moves to user participation, and then the social network service (SNS) is spread. Through Twitter, Facebook, Me2day, MySpace, and YouTube, SNS users is communicating their idea, information, and comments with other people over a short message. Since the SNS forms followers of mutual SNS users with common interests on the Internet, and builds services that can share contents and information with followers and exchange various opinions, it is always accessible in real time via a bidirectional network in the world. On the rise of the SNS, Internet media environment has been converted: Influence gradually decreases in the portal sites that lead the Internet public opinion, and instead the SNS leads it. In the development of SNS, we can search and use all the information in the world, and actively pursue knowledge by changing the role of information producers and consumers at any time. Through our homepage, mini-homepage or blog, we can spread idea, comments or claims to the world. This shows that it becomes the network society where collection, use, and management of information is implemented from the closed, vertical, and inequal principles to the transparent, horizontal, and egalitarian principles. In the SNS society, dynamic relation is changed in the subject of the freedom of speech, and the dynamic relationship is newly reorganized between country and people, between media organizations and people, and between state and media organizations. Depending on using the digital media and network power, it may strengthen the power of country and media organizations. Since even the relatively weak people take advantage of the right of access and knowledge right, the balanced trilateral relationship of the freedom of speech is formed. In this sense, the network structure is never neutral, and sometimes strengthens the centralization or appears as the decentralization. It is not possible that the principle has enough balance through the repetition phenomenon of centralization and decentralization. But it is the real situation that to give the power to weak people is a property of the SNS community. In this digital society, I claim that it is treated as the self-regulation of citizens in the debate that personal defamation or invasion of privacy will be protected by the freedom of expression or regulated by the country. In regard to strengthen the rights of citizens, the self-regulation will be resolved in a way that ensures the right of access for the network. Thus, we need the right of access for the network to ensure the rights of citizens to act as an digital users in the network space.

사회국가는 모든 국민이 자주적 책임 아래 자기 인격을 발전시켜 나 갈 수 있도록 국가가 모든 국민에게 기초적 생활조건을 조성하여 주고, 사회적 약자를 그들이 처한 위기상황에서 보호ㆍ배려하며, 나아가 모든 국민의 복지를 가능한 한 균등하게 촉진함으로써 사회정의를 실현하는 국가를 말한다. 사회국가는 산업사회에서 생긴 사회의 긴장과 갈등, 대 립을 해소하고 극복하여 사회적 통합을 이루는 국가이다. 특히 사회적ㆍ경제적 최저 생활을 보장하고 정의로운 사회질서를 형성하려고 각종 조 치를 취할 의무가 있는 국가가 사회국가이다. 따라서 사회국가는 사적 영역에 대한 개입과 간섭을 회피하는 것이 아니라 이에 적극적으로 개입 하고 관여하여야 하므로, 국가는 국민의 자유와 권리를 소극적으로 보장 하는 것을 넘어 국민이 자유와 권리를 실현할 수 있는 기본적 전제를 적극적으로 형성하는 것까지 의무로 한다. 대한민국 헌법은 ‘사회국가’라 는 용어를 사용하지는 않는다. 그러나 대한민국 헌법은 사회국가를 구현 하는 내용을 폭넓게 규정한다. 사회국가원리는 헌법의 기본원리로서 국가를 구성(조직)하는 원리이 면서 국가에 과제를 부과하는 원리이다. 따라서 사회국가원리는 단순한 정치적 선언에 지나지 않는 백지 개념이 아니라, 모든 국가권력에 의무 를 부과하는 헌법규범으로서 사회국가 과제를 준수하고 실행하도록 명령 하는 법규범이다. 그리고 사회국가원리는 민주국가원리(민주주의)나 법치 국가원리와 달리 국가를 구성(조직)하는 원리로 기능하기보다는 먼저 국 가에 과제를 부과하는 원리로 기능한다. 이러한 점에서 사회국가원리는 객관적인 국가목표규정의 성격이 있다. 사회국가는 오로지 대상, 목표, 정의로운 사회적 질서만을 확정할 뿐이지, 방법, 즉 이러한 목적을 달성 하기 위한 방법과 관련하여 모든 것을 열어둔다. 이러한 사회국가 과제 를 구체화할 의무는 일차적으로 입법자에게 있다. 사회국가원리는 객관 적인 헌법원리이므로 여기서 구체적인 권리가 도출되지는 않는다. 하지 만 사회국가원리는 기본권에 대한 해석 기준으로 작용한다. 특히 사회국 가원리는 기본권 실현의 물적 토대를 구축하여야 하는 과제 실현을 국가 목적으로 설정한다. 사회국가의 첫 번째 목표는 빈곤과 곤궁에 대한 지원과 모든 사람을 위한 인간다운 생존의 최소수준을 보장하는 것이다. 그에 따라 사회국가 원리는 국가에 국민의 기초적인 생활 조건을 조성할 의무를 부과한다. 삶이 바뀌어도 사회적 안전을 충실히 지키는 것도 사회국가의 목표이다. 그래서 사회국가원리는 국가에 개인적인 조건이나 사회적인 상황으로 말 미암아 자신의 인격적ㆍ사회적 발전에서 장애가 있는 개인이나 집단을 배려하라고 요구한다. 따라서 국가는 모든 국민을 위기상황이나 긴급상황에서 보호하는 데 필요한 제도를 마련하고 유지하여야 할 의무를 진 다. 그리고 사회국가는 개인 각자에게 자유를 실질적으로 행사하는 데 필요한 조건을 보장하여야 한다. 빈부 차이 감소와 의존관계 통제를 통 한 더 많은 평등 실현도 사회국가가 추구하는 바이다. 그래서 사회국가 는 이해관계를 조정하고 보호하며 모든 국민의 복리를 가능하면 평등하 게 증진하고 부담을 가능하면 평등하게 분배하려고 한다.

Die Sozialstaat ist ein Staat, der allen Staatsbürgern grundlegende Lebensbedingungen schafft, damit sie ihre Persönlichkeit unter eigener Verantwortung entwickeln können. Der Staat schützt und unterstützt die sozial Schwächeren in Krisensituationen, in denen sie sich befinden, und fördert das Wohlergehen aller Staatsbürger so gleichmäßig wie möglich, um soziale Gerechtigkeit zu verwirklichen. Der Sozialstaat ist ein Staat, der die Spannungen, Konflikte und Widersprüche in der Gesellschaft, die in der Industriegesellschaft entstanden sind, löst und überwindet, um soziale Integration zu erreichen. Insbesondere ist der Sozialstaat verpflichtet, Maßnahmen zu ergreifen, um das Existenzminimum der wirtschaftlich und sozial schwächeren Personen zu gewährleisten und eine gerechte gesellschaftliche Ordnung zu schaffen. Daher ist der Sozialstaat nicht nur dazu verpflichtet, in den privaten Bereich einzugreifen und sich zu beteiligen, sondern er muss aktiv in diesen eingreifen und sich mit ihm befassen. Der Staat hat somit die Pflicht, nicht nur passiv die Freiheit und Rechte der Bürger zu garantieren, sondern auch aktiv die grundlegenden Voraussetzungen zu schaffen, damit die Staatsbürger ihre Freiheit und Rechte verwirklichen können. Die Verfassung der Republik Korea verwendet zwar nicht den Begriff „Sozialstaat“, aber sie regelt umfassend die Inhalte, die die Verwirklichung des Sozialstaates betreffen. Das Sozialstaatsprinzip ist als Grundprinzip der Verfassung sowohl ein Prinzip, das die Organisation des Staates bestimmt, als auch ein Prinzip, das dem Staat Aufgaben auferlegt. Daher ist das Sozialstaatsprinzip keine bloße politische Erklärung oder ein leerer Begriff, sondern eine verfassungsrechtliche Norm, die den Staat verpflichtet, die Aufgaben des Sozialstaates zu befolgen und auszuführen. Im Unterschied zu Grundprinzipien wie dem demokratischen Staatsprinzip oder dem Rechtsstaatsprinzip, die die Organisation des Staates bestimmen, fungiert das Prinzip des Sozialstaates primär als ein Prinzip, das dem Staat Aufgaben auferlegt. In dieser Hinsicht hat das Sozialstaatsprinzip den Charakter einer objektiven Zielvorgabe des Staates. Der Sozialstaat legt nur das Ziel, die Aufgabe und eine gerechte soziale Ordnung fest, lässt jedoch alle Methoden offen, die zur Erreichung dieses Ziels erforderlich sind. Die Pflicht, diese Aufgaben des Sozialstaates konkret zu gestalten, liegt in erster Linie beim Gesetzgeber. Da das Sozialstaatsprinzip eine objektive verfassungsrechtliche Norm ist, wird daraus kein konkretes Recht abgeleitet. Dennoch wirkt das Sozialstaatsprinzip als Auslegungsmaßstab für die Grundrechte. Insbesondere stellt das Sozialstaatsprinzip die Aufgabe auf, die materiellen Grundlagen für die Verwirklichung der Grundrechte zu schaffen und dies als Staatsziel zu definieren. Das erste Ziel des Sozialstaates ist die Unterstützung bei Armut und Not sowie die Gewährleistung eines menschenwürdigen Existenzminimums für alle Menschen. Dementsprechend auferlegt das Sozialstaatsprinzip dem Staat die Pflicht, die grundlegenden Lebensbedingungen für die Staatsbürger zu schaffen. Ein weiteres Ziel des Sozialstaates ist es, die soziale Sicherheit auch dann aufrechtzuerhalten, wenn sich das Leben verändert. Daher verlangt das Sozialstaatsprinzip vom Staat, dass er auf die Bedürfnisse von Individuen oder Gruppen Rücksicht nimmt, die aufgrund persönlicher oder sozialer Umstände Hindernisse in ihrer persönlichen und sozialen Entwicklung haben. Der Staat hat somit die Pflicht, Systeme einzurichten und aufrechtzuerhalten, die erforderlich sind, um alle Staatsbürger in Krisensituationen oder Notfällen zu schützen. Darüber hinaus muss der Sozialstaat die Bedingungen gewährleisten, damit jeder Einzelne seine Freiheit tatsächlich ausüben kann. Die Verringerung der Einkommensungleichheit und die Kontrolle von Abhängigkeiten zur Förderung größerer Gleichheit sind ebenfalls Ziele des Sozialstaates. Daher strebt der Sozialstaat danach, Interessen auszugleichen, zu schützen und das Wohl aller Staatsbürger möglichst gleichmäßig zu fördern und die Lasten möglichst gleich zu verteilen.

생성형 인공지능이 ‘일반인공지능’(generative AI)으로 사회 전반에 걸쳐 상용화됨에 따라 지적 재산권 및 저작권 보호에 관한 논쟁이 새로 운 국면을 맞이하고 있다. 생성형 인공지능은 기존의 인공지능과 달리 코딩이 아닌 인간의 언어로 사용자가 직접 명령을 내리고, 다양하게 개 발되고 있는 멀티모달 프로그램을 통해 그림이나 사진, 동영상 등의 영 상자료를 바로 인식하여 하나의 인터페이스에서 인간의 언어로 표현된 명령의 결과물을 생산한다. 또한 특정분야에서 전문가적 지식을 활용했 던 기존의 인공지능과는 달리, 사회 일반에 걸쳐 통합적으로 활용할 수 있는 파운데이션 모델로서 범용인공지능으로 기능하고 있다는 점에서 기 존의 인공지능과 차별성을 가진다. 생성형 인공지능의 저작권 침해 문제는 크게 두 가지 측면에서 논의 되고 있는데, 첫째, 생성형 인공지능이 개발 단계에서 학습한 방대한 데 이터에 대한 저작권 침해 이슈이고, 둘째, 방대한 데이터 학습을 통해 개발된 생성형 인공지능이 만들어 내는 다양한 생성물과 이차 저작물에 의한 저작권 침해 이슈이다. 물론 기존 인공지능 모델들도 학습에 데이 터를 사용했고, 이로 인한 저작권 침해 갈등은 존재해 왔다. 그리고 이 때 법은 인공지능산업 진흥의 관점에서 저작권 침해의 예외 적용을 위해 공정이용의 법리, TDM 면책규정, 이용약관 등의 다양한 방식들을 고민 해 왔다. 그런데 생성형 인공지능의 등장과 함께 그간 저작권 침해의 예외 적 용을 위해 논의되었던 다양한 법제들의 적용과 해석이 새로운 국면을 맞 이하고 있다. 세계 각국이 앞다투어 발표했던 TDM 면책규정을 유예하 였고, 미국의 경우 Campbell 판례 이후 저작권 침해 예외 인정을 위해 유지되어 오던 공정이용의 심사 강도가 최근 판례에서 변경되고 있다. 한편, 우리의 경우 TDM 면책규정과 관련하여, 외국의 사례들과 유사 하게 2021년 말 인공지능산업의 진흥을 위해 저작권법 개정안에 포함되 어 발표되었으나 2022년 생성형 인공지능의 등장과 함께 유예되었다. 그런데 최근 공정이용의 법리를 적용한 우리의 판례에서는 생성형 인공 지능 개발 이전으로 회기하여 미국 구글의 공공도서관 판례에서의 공정 이용 판단기준과 유사한 판결을 내린바 있다. 그렇다면 생성형 인공지능 의 시대를 맞이하여 우리의 판례에도 변경이 필요한 것인지, 아니면 변 형적 이용을 폭넓게 인용하여 이차 저작물을 만들 수 있는 포괄적인 권 리를 부여하고 이를 통해 새로운 산업분야의 진흥을 도모할 것인지에 대 한 논의가 필요할 것이다. 이에 본고에서는 그간 우리나라와 미국에서 저작권 침해의 예외 사유 로 적용되어 온 공정이용의 법리와 최근 미국판례에서의 공정이용 법리의 변화를 분석하고, 공정이용의 법리가 범용인공지능으로서 생성형 인 공지능의 등장이라는 새로운 환경에서도 여전히 유효하게 적용될 수 있는지에 대한 시론적 고찰을 통해 공정이용의 법리가 생성형 인공지능의 데이터 학습 등 다양한 저작권 침해 사례에서 일정 부분 여전히 유효성 을 가짐을 논의하고자 한다.

As generative artificial intelligence is commercialized throughout society as ‘generative AI’, the debate over intellectual property rights and copyright protection is entering a new phase. Unlike existing artificial intelligence, generative artificial intelligence allows users to directly issue commands using human language rather than coding, and recognizes visual data such as pictures, photos, and videos directly through a variety of multimodal programs being developed. It is possible to express it in human language in the interface. In addition, unlike existing artificial intelligence that utilizes expert knowledge in a specific field, it has the greatest differentiation in that it functions as a ‘general artificial intelligence’ (generative AI) that can be utilized comprehensively throughout society. The problem of copyright infringement in generative artificial intelligence is being discussed from two aspects. First, the issue of copyright infringement on the vast amount of data learned by generative artificial intelligence during the development stage, and second, the issue of copyright infringement on the vast amount of data learned by generative artificial intelligence during the development stage. This is an issue of copyright infringement by various products. Of course, existing artificial intelligence models also used data for learning, and there have been conflicts over copyright infringement as a result. And from the perspective of promoting the artificial intelligence industry, the law has been considering various methods, such as the legal principles of fair use, TDM exemption provisions, and terms of use, to apply exceptions to copyright infringement. However, with the emergence of generative artificial intelligence, various laws that have been discussed for exceptions to copyright infringement are entering a new phase. The TDM exemption regulations that countries around the world had rushed to announce were postponed, and in the case of the United States, the strength of fair use review, which has been maintained to recognize exceptions to copyright infringement since the Campbell precedent, has been strengthened in recent precedents. Meanwhile, in our case, the TDM exemption regulation was announced as included in the “Copyright Act Amendment” at the end of 2021, similar to foreign cases, but was postponed with the emergence of generative artificial intelligence in 2022. However, in our recent case law applying the legal principle of fair use, a ruling was made similar to the fair use judgment criteria in the US case law before the development of generative artificial intelligence. So, is it necessary to change our precedents in the era of generative artificial intelligence, or should we grant comprehensive rights to create secondary works by broadly citing transformative use and promote new industrial fields through this? Discussion will be needed. Accordingly, in this paper, we analyze the legal principle of fair use that has been applied as an exception to copyright infringement in Korea and the United States and the changes in the fair use legal principle in recent U.S. cases, and the legal principle of fair use is used to apply generative artificial intelligence as general artificial intelligence. Through a theoretical consideration of whether it can still be applied effectively even in the new environment of its emergence, we would like to discuss that the legal principle of fair use still has some validity in various copyright infringement cases, such as data learning of generative artificial intelligence.

최근 인공지능(AI) 기술을 활용한 통화ㆍ회의ㆍ대화 등을 녹음하고 요 약하는 서비스가 등장하고 있다. 인공지능(AI) 통화녹음은 편리하게 대화 내용을 요약하고, 편집하며, 이를 정리할 수 있는 장점이 있으나, 사인 (私人)간 통화를 제3자인 기업이 녹음하고, 이를 문자로 풀어낸 녹취록과 내용 요약본을 제공하는 과정에서 개인정보 유출 및 침해 가능성이 제기 된다. 인공지능(AI) 통화녹음은 양 당사자 간 사적인 의사소통 행위로서 헌법상 보호받는 영역이다. 따라서 당사자의 동의 없이 통화내용을 녹음 하고, 이를 AI 학습에 활용하는 것은 음성권 침해 가능성을 초래할 수 있다. AI 기반 통화녹음 기술은 단순한 음성 저장을 넘어, 대화 요약, 감정 분석, 성향 예측 등 2차적 정보처리 과정을 수반함으로써 기존 법 제가 상정한 ‘일회성 녹음’과 본질적으로 다른 법적 쟁점을 야기한다. 특 히, 비자발적 참여자의 대화 노출, AI 개입의 불인지, 개인정보의 국외 이전 및 자동화된 분석 결과의 책임 불명확성 등은 현행 통신비밀보호법 과 개인정보보호법의 틀만으로는 적절히 규율하기 어렵다. AI 통화녹음 기술은 지속적 학습, 비자발적 수집, 고위험 활용 가능성을 내포하는 복 합적 특성을 가지므로, 이에 대응하기 위해서는 기존의 통화녹음 중심 법제를 보완하고, AI 고유의 처리 방식과 위험성을 반영한 별도의 법적 규율체계를 마련할 필요가 있다. 미국, 유럽 등 주요 국가들도 AI 기반 고위험 기술에 대해 별도의 규율을 도입하거나 논의 중이며, 우리 역시 음성정보의 민감성과 통제 필요성을 반영한 입법적ㆍ헌법적 재구성이 시 급하다. 따라서 AI 통화녹음 기술에 대응하는 법제는 단순한 동의 여부를 넘어서, 설명가능성과 투명성, 자기 음성 통제권의 실질적 보장을 중 심으로 재설계되어야 하며, 이는 헌법 질서의 진화이자 기술사회에 적합 한 권리구조 정립을 위한 필수적 과제라 할 수 있다. 이러한 입법적 재 정비의 노력을 통하여 헌법적 권리 보호의 실효성을 높이는 동시에, 기술 발전에 대응하는 지속 가능한 법질서를 구축하기 위한 노력을 하여야 한 다. 본 논문은 AI 통화녹음 기술과 관련하여 음성권의 헌법적 의미를 정 리하고, 국내외 법제 동향을 비교ㆍ검토한 후, 인공지능 기반 통화녹음 기술에 대한 새로운 규율 필요성과 법제 개선 방향을 제시하고자 한다.

Recently, services that record and summarize calls, meetings, and conversations using artificial intelligence (AI) technology are emerging. Artificial intelligence (AI) call recording has the advantage of conveniently summarizing, editing, and organizing the conversation content, but the possibility of personal information leakage and infringement is raised in the process of a third-party company recording a call between private people and providing a text transcript and summary of the content. Artificial intelligence (AI) call recording is a private communication between two parties and is a constitutionally protected area. Therefore, recording phone calls without the consent of the parties concerned and using them for AI learning may result in a violation of voice rights. AI-based call recording technology goes beyond simple voice storage and involves secondary information processing processes such as conversation summary, emotion analysis, and tendency prediction, raising legal issues that are fundamentally different from the ‘one-time recording’ assumed by existing laws. In particular, exposure of involuntary participants' conversations, non-recognition of AI intervention, overseas transfer of personal information, and unclear responsibility for automated analysis results are difficult to properly regulate only within the framework of the current Communications Secrets Protection Act and the Personal Information Protection Act. AI call recording technology has complex characteristics that include continuous learning, involuntary collection, and the possibility of high-risk use, so in order to respond to this, it is necessary to supplement the existing call recording-centered legal system and establish a separate legal discipline system that reflects AI's unique processing methods and risks. Major countries such as the United States and Europe are also introducing or discussing separate regulations for AI-based high-risk technologies, and we also urgently need legislative and constitutional reorganization that reflects the sensitivity and need for control of voice information. Therefore, the legal system corresponding to AI call recording technology must be redesigned with a focus on explainability, transparency, and practical guarantee of the right to control one's voice, beyond simple consent. This can be said to be an essential task for the evolution of the constitutional order and the establishment of a rights structure suitable for a technological society. Through these efforts to reorganize legislation, efforts should be made to increase the effectiveness of constitutional rights protection and at the same time establish a sustainable legal order that responds to technological developments. This paper summarizes the constitutional meaning of voice rights in relation to AI call recording technology, compares and reviews domestic and international legal trends, and suggests the need for new regulations on artificial intelligence-based call recording technology and directions for legal improvement.