Earticle

대규모 언어모델에 기반한 생성형 인공지능이 답변의 정확성, 진실성, 안전성 등을 희생하면서까지 무조건 사용자에게 동조하면서 승인을 구하는 AI 아첨 현상은 대규모 언어모델의 훈련 과정에서 필연적으로 발생하는 구조적 문제일 뿐만 아니라 보편적인 인간의 인지적 편향으로부터 비롯하는 근본적 문제에 해당한다. 이는 AI 아첨을 선호하는 사용자들의 반응에 의하여 더 많은 이익을 얻을 수 있는 AI 기업들의 상업적 유인에 의해 강화된다. 최근 우리나라와 EU에서는 인공지능에 관한 일반법을 제정하여 신중한 규제를 시작하였지만 아첨 문제를 해결하기에 충분치 않다. 우리나라에서 규제가 적용될 수 있는 예외적 경우가 있기는 하지만 그럼에도 불구하고 인공지능사업자에게 기술적 조치를 요구하는 방식만으로는 AI 아첨이 발생하는 구조적 양상을 해소하기에 부족하다. AI 아첨 현상은 인공지능사업자가 기술적 조치에 의하여 제어할 수 있는 문제가 아니기 때문이다. EU에서는 영향력이 크거나 위험성이 높은 AI 행위가 상당히 심각한 신체적 또는 기본권 침해적 피해를 야기한다면 아예 금지하는 방식으로 규제하거나, 그 정도에 이르지 않는 상태에서는 투명성 의무에 의하여 AI 모델의 설계 및 작동 방식에 관한 정보를 제공하게 한다거나 AI 리터러시 의무를 선언하는 정도여서 규제가 과중하거나 과소하다. AI 아첨 현상은 궁극적으로 현재 AI 정렬 패러다임의 근본적인 한계를 반영한다. 이러한 한계를 해결하기 위한 기술적 혁신이 미흡한 상황에서 만연히 기다릴 수는 없으므로 당장 우리 사회와 구성원들을 보호할 수 있도록 합리적 규제방식을 고안할 필요가 있다. 일단 사용자가 AI 모델이 제공하는 답변의 편향 가능성과 효용의 한계를 이해하고 AI 아첨으로부터 스스로를 보호할 수 있도록 최대한 AI 리터러시 및 비판적 사고력을 함양할 수 있어야 한다. 사용자가 자신의 위험 부담 하에 AI 모델을 사용한다는 법적 현실이 정당성을 가지려면 사용자의 정확한 판단을 도울 수 있을 정도의 충분한 정보가 제공되어야 한다. 이러한 적극적 설명의무의 구체적 이행 방안으로서 인공지능 사업자는 AI 아첨 현상에 대하여 다양한 AI 테스팅을 통하여 어떤 분야에서 어떤 식의 아첨 현상이 이루어질 수 있는지 분석한 자료를 제공하고, 그 결과 사용자가 어떠한 피해를 입을 수 있는지에 대한 위험을 고지하는 방식으로 사용자에게 세분화된 구체적 사용 지침을 정기적으로 제공해야 할 것이며, 규제당국은 인공지능사업자의 이러한 적극적 설명의무가 적절히 이루어지는지 감독하고 가이드라인을 제시해야 할 것이다.

The phenomenon of AI sycophancy—where generative AI based on large language models unconditionally seeks approval from users by agreeing with them, even at the expense of the accuracy, truthfulness, and safety of its responses—is not only a structural issue that inevitably arises during the training process of large language models but also a fundamental problem stemming from universal human cognitive biases. This is exacerbated by the commercial incentives of AI companies, which stand to gain more profit from the reactions of users who prefer AI sycophancy. Although South Korea and the EU have recently enacted general laws on AI and begun implementing cautious regulations, these measures are insufficient to resolve the sycophancy issue. While there are exceptional cases where regulations can be applied in South Korea, relying solely on requiring AI operators to implement technical measures is insufficient to address the structural nature of AI sycophancy. This is because the phenomenon of AI sycophancy is not a problem that AI operators can control through technical measures alone. In the EU, regulation ranges from outright bans on AI activities that are highly influential or pose significant risks if they cause serious physical harm or violations of fundamental rights, to transparency obligations requiring the disclosure of information regarding the design and operation of AI models—or declarations of AI literacy obligations— in cases where the risks are not as severe. This approach results in regulation that is either excessive or insufficient. Ultimately, the phenomenon of AI sycophancy reflects the fundamental limitations of the current AI alignment paradigm. Since we cannot simply wait idly while technological innovations to address these limitations remain insufficient, we need to devise a reasonable regulatory approach to protect our society and its members immediately. First, users must cultivate AI literacy including the capability of critical thinking to the greatest extent possible so that they can understand the potential biases and limitations of the answers provided by AI models and protect themselves from AI sycophancy. For the legal reality that users employ AI models at their own risk to hold legitimacy, sufficient information must be provided to assist users in making accurate judgments. As a concrete measure to fulfill this duty of active disclosure, AI service providers must regularly provide users with detailed, specific usage guidelines. This should involve providing data verified through various AI tests on the AI sycophancy phenomenon—specifying in which areas and in what ways such sycophancy may occur—and notifying users of the risks of potential harm they may face as a result. Regulatory authorities should oversee whether AI service providers are adequately fulfilling this proactive duty to explain, and provide relevant guidelines to them.

최근 학교 현장에서 교원의 교육활동 침해 사례가 증가함에 따라 교권 보호의 중요성이 증가하고 있다. 그래서 교육청에서는 교권 침해 사안을 공정하고 전문적으로 판단하기 위해 교권보호위원회 가 설치⋅되고 운영하고 있지만 실제 현장의 실효성은 미비하다. 교권보호위원회 관련 판례 7개를 분석하여 해당 제도의 법적 성격과 교육활동 침해 판단 기준을 체계적으로 규명하는 것을 목적으로 한다. 특히 교권보호위원회 결정의 처분성 인정 여부와 교육활동 침해 판단 구조를 중심으로 판례 의 법리 형성 과정을 분석하였다. 법원은 교권보호위원회 결정이 장래 법적 효과를 수반하는 경우 이를 행정처분으로 인정하는 경향을 보였으며 교육활동 침해는 정당성⋅부당성⋅반복성의 요건을 충족하는 경우에 한하여 제한적으로 인정하고 있었다. 또한 절차적 정당성과 학교장의 독립적 판단 의무가 중요한 통제 기준으로 작용함을 확인하였다. 본 연구는 교권보호위원회 관련 판례를 통합적 으로 분석하여 교육활동 침해 판단의 3단계 구조를 제시하고, 교권 보호와 기본권 보장의 균형을 위한 법리적 기준을 정립하였다는 점에서 의의를 가진다. 따라서 본 연구는 교권보호위원회의 법적 측면, 제도적 측면을 전면적으로 검토하고 운영 과정에서 나타나는 한계를 분석하여 개선 가능성을 모색하고자 한다. 특히 교권보호위원회 위원의 전문성 확보, 중립성 강화, 사후 조치 체계 구축 등 구조적 개선 방안을 중심으로 논의를 전개한다. 그래서 교권보호위원회가 단순한 사안 처리 기구를 넘어, 교육공동체 전체의 실효성 있는 갈등 해결 기구로 기능할 수 있는 방향성을 제시하고자 한다.

As cases of infringement on teachers’ educational activities have increased in recent years, the importance of protecting teachers’ rights has grown significantly. In response, Offices of Education have established and operated Teacher Protection Committees to ensure fair and professional judgment of such cases. However, their effectiveness in practice remains limited. This study aims to systematically examine the legal nature of the Teacher Protection Committee and the criteria for determining infringement on educational activities by analyzing seven relevant court cases. In particular, it focuses on the recognition of the committee’s decisions as administrative dispositions and the legal reasoning underlying the determination structure of educational activity infringement. The analysis shows that courts tend to recognize the committee’s decisions as administrative dispositions when they entail future legal effects. Furthermore, infringement on educational activities is acknowledged restrictively, only when the requirements of legitimacy, illegitimacy, and repetitiveness are satisfied. Procedural due process and the principal’s independent duty of judgment were also identified as key control standards. Based on these findings, this study proposes a three-stage analytical framework for determining infringement on educational activities and establishes legal criteria for balancing the protection of teachers’ rights with fundamental rights. In addition, this study comprehensively reviews both the legal and institutional aspects of the Teacher Protection Committee, identifies limitations in its operation, and explores potential improvements. It particularly emphasizes structural reform measures, including enhancing the professionalism and neutrality of committee members and establishing a systematic follow-up management mechanism. Ultimately, this study suggests directions for transforming the Teacher Protection Committee from a mere case-handling body into an effective conflict resolution mechanism for the entire educational community.

본 연구는 온라인 환경에서 청소년의 혐오표현 노출이 심화되는 상황을 배경으로, 비판적 언어 인식(Critical Language Awareness, CLA) 이론에 기반한 한국어 리터러시 중심의 혐오표현 대응 인권교육 프로그램을 개발하고 그 효과를 실증적으로 검증하는 데 목적이 있다. 이를 위해 CLA 이론, 인권교육 패러다임, 청소년 발달 이론을 통합하여 주 1회, 총 8회기의 프로그램을 구성하였다. 경기도 소재 공립 중학교 1개교 중학생 80명을 대상으로 사전–사후 비동등 통제집단 연구를 수행하였으며, 자료 분석은 2×2 반복측정 분산분석을 적용하였다. 연구 결과는 다음과 같다. 혐오표현 인식, 인권감수성, 비판적 언어 이해력의 모든 변인에서 집단과 시점 간 상호작용 효과가 통계적으로 유의하게 나타났다(p<.001). 효과 크기는 세 변인 모두에서 큰 수준으로 확인되었으며, 비판적 언어 이해력(partial η²=.72), 혐오표현 인식(partial η²=.71), 인권감수성(partial η²=.68) 순으로 나타났다. 특히 하위 요인 분석에서는 비판적 언어 이해력의 ‘대항 담론 생산’과 인권감수성의 ‘타자 공감’에서 상대적으로 높은 효과가 확인되었다. 이상의 결과는 한국어 리터러시와 인권교육을 통합한 접근이 청소년의 혐오표현 대응 역량을 실질적으로 향상시키는 데 효과적임을 시사한다. 나아가 본 연구는 학교 기반 인권교육 프로그램의 체계적 설계와 실제 적용에 있어 실천적⋅교육적 함의를 제공한다.

This study aims to develop a human rights education program for responding to hate speech based on Korean language literacy, grounded in Critical Language Awareness (CLA), and to empirically examine its effectiveness in the context of increasing exposure to hate speech among adolescents in online environments. To this end, the program was designed by integrating CLA theory, the human rights education paradigm, and adolescent developmental theory, and implemented in eight weekly sessions. The participants were 80 middle school students from a public school in Gyeonggi Province, South Korea. A nonequivalent control group pretest–posttest design was employed, and data were analyzed using a 2 × 2 repeated measures ANOVA. The results are as follows. Significant interaction effects between group and time were found across all dependent variables—hate speech awareness, human rights sensitivity, and critical language competence (p < .001). The effect sizes were large for all variables, with the highest observed in critical language competence (partial η² = .72), followed by hate speech awareness (partial η² = .71) and human rights sensitivity (partial η² = .68). Sub-factor analysis revealed particularly strong effects in “counter-discourse production” within critical language competence and “empathy toward others” within human rights sensitivity. These findings suggest that an integrated approach combining Korean language literacy and human rights education is effective in enhancing adolescents’ capacity to recognize and respond to hate speech. Furthermore, this study provides practical and pedagogical implications for the systematic design and implementation of school-based human rights education programs.

본 연구는 AI 채점 시스템의 도입이 가속화되는 교육 행정의 변화 속에서, 기술적 효율성에 가려진 적법절차의 위기와 학습자의 기본권 침해 가능성을 규범적으로 고찰하는 데 목적이 있다. AI 채점 알고리즘은 표면적으로는 객관적인 평가 도구로 보이나, 학습 데이터 세트 내의 대용 변수(Proxy)를 통한 간접 차별의 위험과 의사결정 판단 로직의 불투명성으로 인한 블랙박스 행정의 문제를 내포하고 있다. 특히 본 연구는 행정법상 고도의 판단여지와 전문적 재량이 요구되는 교육 평가 영역에서 알고리즘에 전적으로 의사결정을 위임하는 행위의 법리적 위법성을 분석하였다. 더불어 영국의 A-level 사태, 미국 휴스턴 교육구(HISD) 판례, 프랑스의 파쿠르쉽(Parcoursup) 사례에 대한 비교법적 검토를 통해, 알고리즘 지배(Algocracy)가 초래할 수 있는 규범적 파행의 실상을 확인하고 사법적 대응의 한계를 짚어보았다. 결론적으로 본 연구는 지능정보사회 교육 행정의 민주적 정당성을 확보하기 위한 세 가지 규범적 대안을 제시한다. 첫째, 행정절차법상 실질적 이유 제시 의무를 구현하기 위한 행정설명청구권의 명문화이다. 둘째, 재량권의 불행사를 방지하고 교사의 평가 전문성을 보장하기 위한 의미 있는 인적 개입(Meaningful Human Intervention)의 의무화이다. 셋째, AI 채점 시스템 도입 전 단계에서 잠재적 인권 침해 요소를 사전에 스크리닝하는 ‘교육인권영향평가’의 제도화이다. 이러한 제도적 장치는 인공지능이 단순한 기술적 임시방편에 머물지 않고, 학습자의 주체성과 적법절차라는 헌법적 가치를 학교 현장에서 실질적으로 실현해내는 견고한 공법적 보루가 될 것이다.

As the adoption of Artificial Intelligence (AI) for grading descriptive and essay-type assessments accelerates in educational administration, this study aims to normatively examine the crisis of due process and the potential infringement of learners’ fundamental rights hidden behind technological efficiency. While AI grading algorithms appear objective on the surface, they harbor risks of indirect discrimination through proxy variables within training datasets and the problem of “black-box administration” caused by the opacity of decision-making logic. In particular, this research critically analyzes the issue of “failure to exercise discretion,” which arises when administrative authorities entirely delegate decisions to AI in the field of educational assessment—a domain that strictly requires Beurteilungsspielraum (judgmental latitude) and professional discretion under administrative law. Through a comparative legal review of the UK’s A-level controversy, the U.S. Houston Independent School District (HISD) case, and the French Parcoursup case, this study identifies the reality of normative dysfunction brought about by “Algocracy” and discusses the limitations of judicial responses. In conclusion, this study proposes three normative alternatives to secure the democratic legitimacy of educational administration in the intelligent information society. First, the codification of the “Right to Administrative Explanation” to implement the duty of providing substantive reasons under administrative procedure laws. Second, the mandatory requirement of “Meaningful Human Intervention” to prevent the non-exercise of discretionary power and to protect the professional expertise of teachers. Third, the institutionalization of a “Human Rights Impact Assessment for Education” to pre-screen potential infringements before the introduction of technology. These legal safeguards will serve as an essential normative foundation to ensure that AI does not remain a mere “Technical Fix” but functions as a tool that respects the agency of learners and the values of educational autonomy.

이 연구는 2022 개정 사회과 교육과정에서 초등 3⋅4학년(군)의 법교육적 필요성을 제안하기 위해 해당 학습자의 발달 단계가 법교육 도입에 적합한지를 이론적으로 검토한 후 이에 부합하는 법교육 내용 요소를 도출하였다. 이를 실증적으로 검토하기 위해 4학년을 대상으로 교육연극과 강의식 법교육 프로그램, 무처치 집단을 비교하여 교수⋅학습 방식에 따라 법의식 변화 양상에 어떠한 차이가 나타나는지를 사전-사후-추후 검사로 검증하였다. 4학년 125명을 실험1(교육연극), 실험2(강의식), 통제집단(무처치)으로 구성하고, 법의식을 인지, 기능, 정서, 행동의 네 차원으로 측정하여 집단(3)×시점(3) 혼합 분산분석을 실시하였으며, 두 차례의 면담을 병행하였다. 분석 결과, 사후 시점에서는 두 실험집단 모두 통제집단에 비해 법의식의 모든 차원에서 유의한 향상을 보였다. 구체적으로, 인지 차원에서는 실험1과 실험2 간 차이가 유의하지 않았으나, 기능 차원에서는 실험1, 실험2, 통제집단 순으로 위계적 차이가 나타났다. 정서⋅행동 차원에서는 실험1이 다른 두 집단에 비해 유의하게 높았으며, 실험2와 통제집단 간 차이는 유의하지 않았다. 효과의 지속성(추후) 측면에서도 실험1은 안정적으로 유지되었고, 실험2는 기능⋅정서⋅행동 차원에서 약화되었다. 이러한 결과는 4학년 법교육 도입의 정당성을 실증적으로 뒷받침하며, 나아가 학습자의 가치 내면화에 정서적 몰입을 동반한 체험형 교수법이 고려될 필요가 있음을 시사한다.

This study aims to propose the necessity of introducing law-related education for the third and fourth grades of elementary school within the 2022 Revised Social Studies Curriculum in Korea. To this end, it first theoretically examined whether the developmental stage of these learners is appropriate for the introduction of law-related education, and then derived corresponding content elements on this basis. To empirically substantiate this, the study compared a drama-based law-related education program, a lecture-based program, and a no-treatment condition among fourth-grade students, examining how legal consciousness differs in its patterns of change according to teaching method through a pretest-posttest-delayed-test design. A total of 125 fourth-grade students were assigned to Experimental Group 1 (drama-based, n = 42), Experimental Group 2 (lecture-based, n = 43), and a control group (no treatment, n = 40). Legal consciousness was conceptualized along four dimensions— cognitive, functional, affective, and behavioral—and a 3 (group) × 3 (time) mixed analysis of variance was conducted, complemented by two rounds of student interviews. The results showed that the law-related education program produced significant effects for fourth-grade students. Specifically, no significant difference emerged between Experimental Group 1 and Experimental Group 2 in the cognitive dimension. In the affective and behavioral dimensions, however, only Experimental Group 1 differed significantly from the other two groups, while Experimental Group 2 did not differ from the control group. In terms of the durability of effects, Experimental Group 1’s gains were stably maintained over time, whereas Experimental Group 2’s gains were attenuated in the functional, affective, and behavioral dimensions. These findings empirically demonstrate the feasibility of introducing law-related education for fourth-grade learners, and further suggest that experiential pedagogy involving emotional immersion is a core requirement for the internalization of legal values.