Earticle

이 연구는 채용 안내문, 행정 홍보, 플랫폼 추천·고객 응대에서 “AI가 결정했다/추천 했다” 또는 “시스템이 그렇게 나왔다”와 같은 표현이 어떻게 책임 주체를 지우고 ‘왜?’라 는 질문을 약화시키는지 분석한다. 생성형 AI가 유창하게 문장을 만들어낸다는 사실은 그 문장의 의미를 이해하고 근거를 설명할 수 있음을 뜻하지 않는다. 그런데 출력이 ‘정 답’처럼 받아들여지면 담당자는 재검토·설명·정정 의무를 건너뛰고, 문제 발생 시 “AI 가 그랬다”만 남아 이의제기·구제의 책임 주체와 절차가 불분명해진다. 본 논문은 이를 “AI에게 책임을 줄 수 있는가”의 문제가 아니라 사람이 판단을 맡길 때 필요한 절차가 빠진 ‘위임의 실패’로 규정하고, 플라톤 『라케스』의 대화적 검증인 엘렝코스(elenchos)을 분석 틀로 삼는다. 『라케스』는 책임 있는 맡김(epitrepein)의 조건으로 (1) 목적 확인, (2) 자격·근거 검증, (3) 결과 점검과 환류를 요구하며, 책임을 말로 떠넘기는 ‘말 돌리기’를 비판한다. 이를 바탕으로 본 논문은 부모·성인 대상 ‘라케스형 대화’ 책임교육 모델을 제안한다. 학습자는 AI 사용 사례에서 누가 입력·승인·실행했는지 추적하고, 맡긴 범위·승인 이 유·오류 시 조치(재검토·이의제기·수정·보상)를 적은 ‘책임 선언문’을 작성한다. 목 표는 AI 지식 전달이 아니라 자신의 판단을 이유로 설명하고 수정까지 감당하는 정당화 책임의 훈련이다.

This paper examines how expressions such as “AI decided,” “AI recommended,” or “the system produced this result” function as responsibility-laundering discourse in institutional contexts (e.g., hiring notices, administrative publicity, platform recommendations, and customer service). Although generative AI can produce fluent sentences, such fluency does not entail normative meaning understanding or the capacity to provide and revise reasons. When AI outputs are treated as “the answer,” human operators may bypass obligations of review, explanation, and correction. If harm or dispute follows, the response “AI did it” remains, while the responsible addressee and the procedural routes for objection, remedy, and revision become unclear-thereby widening a responsibility gap. The paper argues that the core problem is not whether AI can bear responsibility, but rather a failure of delegation: the omission of the procedures required for responsible entrusting of judgment. To specify these procedures, the analysis turns to Plato’s Laches and its dialogical testing (elenchus) as a framework for restoring answerability-the duty to give reasons, accept challenges, acknowledge error, revise decisions, and secure feedback. From Laches, the paper reconstructs conditions of responsible delegation (ἐπιτρέπειν, epitrepein): (1) clarifying the purpose of delegation, (2) verifying qualifications and grounds, and (3) checking outcomes with feedback and correction, while criticizing “passing-the-buck” rhetoric. Building on this, the paper proposes a philosophy-education model for parents and adults-a “Lachesstyle dialogue”-in which learners trace who prompted, approved, and executed AI-assisted decisions and produce a responsibility statement specifying delegated scope, reasons for approval, and error-handling procedures (re-review, appeal, revision, and compensation). The goal is not AI literacy as information, but training in justificatory responsibility.

필자는 이 논문에서 우리가 마주한 몇몇 난제들이 책임 공백에서 기인함을 설명하고, 미 래지향적 맥락에서의 공유된 책임 개념을 통해 책임 공백의 문제를 해결하고 우리의 실천적 과제를 명료히 할 수 있다고 주장하려 한다. 필자의 관심사는 ‘분산된 집합의 문제’로, 비의 도적 행위가 해악을 일으킨 경우(GPGP)와 우연히 마주한 문제상황에서 도덕적 요구를 받는 추정적 그룹의 경우를 포함한다. 필자는 2장에서 책임 공백이 무엇인지 설명하고, 책임 공백 이 책임의 종류에 따라 어떻게 드러나는지 보일 것이다. 3장에서는 분산된 집합의 문제는 집단적 맥락이 아니라 개인적 맥락에서 책임을 귀속하는 방식으로 해결되어야 한다고 주장 할 것이다. 마지막 4장에서는 아이리스 영의 사회적 연결 모델을 전형으로 삼아 미래지향적 책임의 형태를 제안해보려 한다. 미래지향적 책임은 우리 각각이 공유하는 책임으로, 가해 자 지목과 비난이 아니라, 변화, 문제의식의 공유, 집단적 정치적 실천을 통해 실현된다.

In this paper, I aim to explain that the many problems we face l ie in a responsibility gap, and argue that forward-looking responsibility is necessary to solve these issues. My focus is on the problem of diffuse collections, which includes unintentional acts causing harm (such as the GPGP) and the case of putative groups facing moral demands in problematic situations that arise by chance. In Chapter 2, I define what a responsibility gap is and demonstrate how it manifests depending on the type of responsibility and collectives. In Chapter 3, I argue that problems of diffuse collections should be addressed by attributing responsibility to individuals rather than collectives. Finally, in Chapter 4, I propose a form of forward-looking responsibility based on Iris Young's social connection model. This type of responsibility is shared by all of p eople a nd c ollectives involved, a nd c an b e a chieved t hrough c hange, shared awareness, and collective political action, rather than blame and finger-pointing.

미래 전장 양상이 초연결성에 기반한 전장 네트워크 발전에 기반할수록 그 결과 또한 예측할 수 없는 불확실 성이 더욱 커질 것으로 예견된다. 이런 환경에서 인공지능에 기반한 자율무기체계 도입은 그 불확실성을 더욱 증대시 킨다. 불확실성이 증대된 환경에서 공동의 작업으로 인해 도출된 결과에 대한 책임을 평가하는 것은 그 중요성에도 불구하고 선명한 방향을 정하지 못하고 있으며 누구도 충분한 책임을 지지 않는 책임간극(responsibility gap)에 대한 우려도 있다. 이에 따라 이 글에서는 자율무기체계의 운용양상을 분석하고 그 과정에서 발생할 수 있는 윤리적 문제 로서 책임간극의 문제를 로버트 스패로우의 이론을 통하여 고찰해볼 것이다. 그의 주장을 면밀히 살펴보고 치명적 자 율무기체계(lethal autonomous weapon system, LAWS)의 운용에서 책임간극은 극복 가능한 것임을 밝힌다. 간극이 아닌 책임의 프레임이 앞으로 다가올 전장 환경에 더 적합함을 보여줌으로서 신중한 무기체계 개발 및 사용의 기반 을 마련하고자 한다.

In an increasingly hyperconnected battlefield, the reliance on battlefield networks and AI-based autonomous weapons systems creates uncertainty and raises ethical concerns. This article explores the responsibility gap in operating autonomous weapons systems, using Robert Sparrow's theory. By analyzing Sparrow's arguments, we propose overcoming the responsibility gap in lethal autonomous weapon systems (LAWS). Our objective is to establish a framework of responsibility that aligns with the evolving battlefield, promoting the development and use of responsible weapon systems.

본고는 고도의 자율성을 지닌 인공지능 로봇이 야기하는 책임공백 문제를 해결할법적 방안으로 논의되어 온 전자인격이 이 문제의 적절한 방안인지 검토한다. 본고는 먼저이러한 평가를 인공지능 로봇의 속성과 인격체의 본질에 관한 토론이 아니라 사회적 장치의편익과 비용을 따지는 합리성의 관점에서 접근해야 할 문제로 규정한다. 본고의 검토에서전자인격 제도에 책임재산 운영과 관련한 위험이 있다는 것, 그리고 인격체의 정체 확인과재확인이 중요한 난관에 부딪힌다는 사실이 드러난다. 단일하고 고유한 신체를 기반으로존속하는 인간과 달리 전자적 존재자가 본성상 다수실현 가능하다는 것, 그리고 그 기능주의적정체성이 소프트웨어에 놓여 있기 때문에 복제, 수정, 결합 같은 조작이 용이하다는 것이문제다. 이는 책임 귀속의 전제가 되는 주체의 고유성과 연속성을 보장하기 어렵게 만들기때문에 근본적인 문제가 된다. 본고는 따라서 전자인격이 사회가 인공지능과 로봇을활용하면서 생기는 책임공백 문제를 해결하는 방안으로 적절하지 않다고 평가한다.

This paper examines whether electronic personhood, which has been proposed and discussed as a legal solution to the responsibility gap problem caused by highly autonomous AI robots, is an effective solution. First, this paper frames the evaluation not as a debate on the attributes of AI robots and the nature of personhood, but as a matter of rationality that weighs the benefits and costs of social artifacts. The examination reveals that the electronic personhood entails risks related to the management of liability funds and faces a significant obstacle in the identification and re-identification of the person. The problem is that unlike humans, who exist based on a single unique body, an electronic entity is by its nature characterized by multiple realizability. Its functionalist identity lies in the software, making it susceptible to operations such as copying, modification, and combination. This becomes a fundamental problem because it makes it difficult to guarantee the uniqueness and continuity of the subject, which are prerequisites for the attribution of responsibility and liability. Therefore, this paper concludes that electronic personhood is not an effective solution for resolving the problem of responsibility gap that arises from ever-widening use of autonomous AI robots.

이 논문은 자율적인 AI 로봇이 야기하는 책임 공백의 물음에 관한 철학적 논의를 통해 윤리학적 해결책으로 공동 책임론을 옹호하는 데 그 목적이 있다. 이를 위해 A. 매티어스가 제기한 책임 공백이 무엇인지를 해명한 다음 이에 관한 세 접근법, 즉, 인간 중심주의 접근법(도구주의 2.0), 기술 중심주의 접근법(기계 윤리), 그리고 구성주의 접근법(하이브리드 책임)을 비판적으로 천착할 것이다. 이러한 비판적 논의는 책임 공백 물음의 해결에 행위성 개념이 중요한 역할을 차지하고 있음을 보여줄 것이다. ‘확장된 행위성 이론’에 근거하여 필자는 자율적인 AI 로봇 역시 도덕적 행위성을 지니기에 도덕적 책임의 주체가 될 수 있음을 역설할 것이다. 하지만 로봇은 오직 인간 행위자와 협업 관계를 맺는 경우에만 도덕적 행위성을 갖기에, 책임 공백의 물음은 하이브리드 접근법에 따라 인간과 기계의 공동 책임 내지 분산된 책임에 의해 그 해결책이 강구되어야 할 것이다. 그럼에도 발생할 수 있는 책임 공백의 문제는 인간 행위자에게 덕목으로서의 책임을 요청한다는 점을 맺는말에서 필자는 제안하고자 한다.

The purpose of this paper is to advocate the theory of joint responsibility as an ethical solution through philosophical discussions on the question of responsibility gap caused by AI robots. To this end, we will clarify what responsibility gap A.Mattius has raised and then critically explore three approaches to it: the anthropocentric approach (instrumentalism 2.0), the technocentric approach (machine ethics), and the constructivist approach (hybrid responsibility). This critical discussion will show that the concept of agency plays an important role in resolving the responsibility gap question. Based on the ‘extended agency theory’, I will emphasize that autonomous AI robots can also be the subject of moral responsibility because they have moral agency. However, since robots have moral agency only if they have a cooperative relationship with human actors, the question of the responsibility gap should be solved by the joint or distributed responsibility of humans and machines according to the hybrid approach. Nevertheless, I would like to suggest that the problem of the unresolved responsibility gap postulates human agents to take responsibility as a virtue.

제1차 세계대전의 참극은 웨스트팔리아 체제 이후 공고화된 오직 국가만이 국제법의 주체로서 국제법상 권리와 의무는 국가에게만 귀속된다는 믿음을 흔들었다. 1919년 베르사유 조약을 통해 본격적으로 국제법에 도입되기 시작한 국제법상 개인형사책임 개념은 제2차 세계대전 직후의 뉴렘베르그 재판을 통해 본격적으로 국제법상의 확고한 원칙으로 자리매김하기 시작하였다. 뉴렘베르그 재판은 국제법이 추상적 실체인 국가를 넘어 국가를 이루는 원천인 개인에 대하여 직접적으로 의무를 부과할 수 있고, 국제평화와 안전에 위해가 되는 심각한 국제범죄를 저지른 개인에게 직접 형사책임을 물을 수 있다는 새로운 국제법의 현실을 확인하는 기회가 되었다. Hersch Lauterpacht와 Hans Kelsen 등의 국제법 학자들은 다양한 국가실행을 근거로 개인의 국제법상 주체성과 국제법상 개인형사책임 개념의 실존을 주장하면서 국제법의 미래를 위한 개인책임 개념의 중요성을 강조하였다. 법적 견지에서 볼 때, 뉴렘베르그를 모태로 한 여러 국제형사재판소들의 핵심적 임무는 제노사이드, 인도에 반한 죄, 전쟁범죄 등 가장 심각한 국제범죄의 집단성과 처벌의 개인성 사이의 개념적 괴리를 채우는 것이었다. 이를 위해서 특히 ICTY, ICTR, ICC 등의 국제형사재판소들은 개별 사건들에 다양한 범죄참가형태 이론들을 적용하고 정교화시켜 나가면서 범죄의 집단성과 처벌의 개인성을 상호 포섭하고 통합시켜왔다. 그 구체적 양상은 여러 범죄참가형태 이론을 통해 핵심국제범죄에 참여하는 다양한 계층의 행위자들 간의 죄책의 경중을 구분하는 형태로 나타났는데, 정범과 공범의 구분이 그러한 작업의 중추가 되어왔다. 이러한 맥락에서, 법적으로 정범을 구성하기 위한 ICTY의 공동범죄집단 이론과 ICC의 행위지배 이론은 범죄참가형태의 정교화를 통한 범죄의 집단성과 처벌의 개인성 간의 포섭과 통합의 대표적인 예가 되었다.

The tragedy of the World War I shook the belief that only States are the subject of international law and that the rights and obligations under international law belong only to States. The trial of major Nazi war criminals at the Nuremberg military tribunal in the immediate aftermath of the World War II rendered the concept of individual criminal responsibility an established principle of international law that had been originally introduced to international law on the occasion of the Treaty of Versailles of 1919. The Nuremberg trial became an opportunity to confirm that international law can directly impose duties on individuals and, subsequently, those individuals can be held accountable for their international wrongdoings. On the basis of State practice evidencing States’ acceptance of the notion of individual criminal responsibility as an operational principle of international law, Hersch Lauterpacht, Hans Kelsen and other international lawyers maintained that the future of international law is dependent on the widespread implementation of individual criminal responsibility. From the legal perspective, one of the main missions of international criminal tribunals thus far in existence has been to fill the gap between the collectivity of crimes and the individuality of punishment in respect of the most serious crimes of the concern to the international community as a whole?i.e., genocide, crimes against humanity and war crimes. For this purpose, international criminal tribunals such as the ICTY, ICTR and ICC have refined various theories of modes of liability bridging the gap between the collectivity and individuality of core international crimes. More specifically, those tribunals distinguished principals and accessories through the modes of liability doctrines, differentiating the levels of culpability among criminal participants. In this context, the doctrine of joint criminal enterprise at the ICTY and the control theory at the ICC have become the principal examples of linking the collectivity and individuality through the refinement of modes of liability.