Earticle

본 연구는 생성형 인공지능(Generative AI) 기반 민원 응답 시스템(VOC: Voice of Customer)의 공공조직 수용성을 기대-현실 간 괴리(Expectation-Reality Gap, ERG) 관점에서 탐색적으로 분석하였다. 기술수용 모델(TAM), 공정성 인식 이론, 자동화 인식 이론을 통합한 분석 틀을 제시하고, 실제 시스템을 운영 중인 국내 공공기관 민원 담당자를 대상으로 혼합 방법론을 적용하였다. 정량 분석에서는 지각된 유용성(PU)과 업무 효율성 인식이 행동 의도(BI)에 유의한 영향을 미쳐 기능적 기대를 뒷받침한 반면, 정성 분석에서는 반복 표현, 감정 미반영, 설명가능성(XAI) 부족이 주요 저해 요인으로 나타났다. 이는 효율성 인식만으로는 공공조직 내 AI 수용성을 충분히 설명하기 어렵고, 사회적․심리적 조건이 충족되지 않을 경우 ERG가 발생함을 보여준다. 본 연구는 TAM의 기능 중심 한계를 보완하여 공정성․설명가능성․감정 대응을 포함한 공공부문 수용 모델을 제안하였으며, 정책적으로는 정확성 강화, 정서 기반 응답 설계, Human-in-the-loop 구조, 피드백 거버넌스 제도화를 제시한다. 다만 본 연구는 단일 기관․소규모 표본에 기반한 탐색적 연구이므로 일반화에는 한계가 있다. 그럼에도 불구하고, 이러한 초기 결과는 공공조직 AI 수용성 연구의 기초 토대를 제공하며, 향후 다기관․대규모 표본과 정교한 계량적 검증을 통해 확장될 수 있음을 시사한다.

This study conducts an exploratory analysis of the acceptance of a Generative AI-based Voice of Customer (VOC) system in public organizations from the perspective of the Expectation-Reality Gap (ERG). An integrated framework combining the Technology Acceptance Model (TAM), Fairness Perception Theory, and Automation Perception Theory was developed, and a mixed-methods approach was applied to civil servants in a Korean public agency operating the system. Quantitative results showed that perceived usefulness (PU) and efficiency-related automation perception significantly influenced behavioral intention (BI), confirming functional expectations. In contrast, qualitative findings revealed barriers such as repetitive expressions, lack of emotional adaptation, and insufficient explainability (XAI). These results suggest that efficiency perceptions alone are insufficient to explain AI adoption in public organizations, and that unmet socio-psychological conditions create ERGs between expectations and actual experiences. This study extends TAM by proposing a public-sector acceptance model that incorporates fairness, explainability, and affective responses, while also providing practical implications such as enhancing accuracy, designing emotionally adaptive responses, implementing human-in-the-loop structures, and institutionalizing feedback governance. However, as this research is based on a single organization and a small sample, its generalizability is limited. Nevertheless, these initial findings provide a foundational basis for public-sector AI acceptance research and highlight the need for expansion through larger-scale, multi-agency samples and more rigorous quantitative validation in future studies.

우리나라는 2022년 개정 교육과정을 통해서 미래 사회에 대비하기 위해 모든 교과를 통해 디지털 기초소양 을 함양할 수 있도록 초중등 교육과정에서 학생들의 발달 단계에 따라 수업 설계를 하도록 제시하고 있다. 오늘 날 디지털 기초 소양 기술 중 인공지능(AI) 기술은 학생의 학습 과정을 향상시키고, 학습 성과를 개선하며, 교사 의 업무를 간소화하기 위해 사용되면서 교육 환경에서의 교수·학습 경험 향상에 유망한 기술임이 입증되고 있 다. 하지만 모든 새로운 기술이 그러하듯 기술 사용과 관련된 위험성이 존재하고 있다. 따라서 우리는 관련 위 험성이 어떻게 인식되는지 에 대해 이해할 필요성이 제기되고 있다. 본 논문에서는 학교 교육에서 AI 기술 통합 사용 시 개인화와 추천 시스템을 중점으로 잠재적 위험성에 대해 살펴본다. 그리고 결론으로 교육에서 AI 기술 의 잠재적 위험성을 줄이기 위한 교사의 역할에 대해 제시한다.

The 2022 revised curriculum aims to foster digital literacy across all subjects by tailoring teaching to the developmental stages of each school level in South Korea. Artificial Intelligence(AI) is highlighted as a promising tool to improve education by enhancing student learning, improving outcomes, and easing teachers’ workloads. However, like any new technology, AI presents potential risks, particularly in the areas of personalization and recommendation systems. In this paper, we explore these risks and discusses how teachers can play a role in mitigating them.

There has been a push in recent years to provide better explanations for how AIs make their decisions. Most of this push has come from the ethical concerns that go hand in hand with AIs making decisions that affect humans. Outside of the strictly ethical concerns that have prompted the study of explainable AIs (XAIs), there has been research interest in the mere possibility of creating XAIs in various domains. In general, the more accurate we make our models the harder they are to explain. Go playing AIs like AlphaGo and KataGo provide fantastic examples of this phenomenon. In this paper, I discuss a non-exhaustive list of the leading theories of explanation and what each of these theories would say about the explainability of AIplayed moves of Go. Finally, I consider the possibility of ever explaining AIplayed Go moves in a way that meets the four principles of XAI. I conclude, somewhat pessimistically, that Go is not as imminently explainable as other domains. As such, the probability of having an XAI for Go that meets the four principles is low.

본 연구는 의료 분야에서의 인공지능 시스템이 신뢰받고 실제로 사용되기 위해 필요한 품질 요소를 정의하고, 이를 평가할 수 있는 체계적인 프레임워크를 제시한다. 국제 표준 ISO/IEC 25010의 소프트웨어 품질 모델을 기반으로 기능 적합성, 시간 효율성, 사용성, 해석 가능성 등 네 가지 핵심 품질 특성을 선정하였으며, 이들을 정량 적·정성적으로 평가할 수 있는 지표를 설계하였다. 또한 SHAP 기반 설명 가능 인공지능 기법을 예측 시스템에 통합함으로써, 예측 근거를 시각적으로 제공하고 사용자 신뢰도를 향상시켰다. 실험 결과, 예측 정확도 91.2%, 해 석 일치율 82%, 사용자 만족도 4.5점을 기록하며 품질과 해석 가능성을 동시에 충족하는 시스템을 구현하였다. 본 연구는 향후 의료 인공지능의 SaMD 인증과 실질적 임상 적용을 위한 기반을 제공할 수 있을 것으로 기대된다.

This study proposes a systematic framework for defining and evaluating the quality attributes necessary for medical AI systems to gain trust and be practically used. Based on the ISO/IEC 25010 international standard for software quality, four key quality characteristics— functional suitability, time efficiency, usability, and interpretability—were selected. Quantitative and qualitative metrics were designed to assess these attributes. Furthermore, an explainable AI technique using SHAP was integrated into the prediction system to visually present the basis of predictions and enhance user trust. Experimental results showed a prediction accuracy of 91.2%, interpretation agreement rate of 82%, and user satisfaction score of 4.5, demonstrating a system that satisfies both quality and explainability requirements. This study is expected to provide a foundation for future SaMD certification and clinical application of medical AI systems.

With the fast development of artificial intelligence day by day, users are demanding explanations about the results of algorithms and want to know what parameters influence the results. In this paper, we propose a model for bankruptcy prediction with interpretability using the SHAP framework. SHAP (SHAPley Additive exPlanations) is framework that gives a visualized result that can be used for explanation and interpretation of machine learning models. As a result, we can describe which features are important for the result of our deep learning model. SHAP framework Force plot result gives us top features which are mainly reflecting overall model score. Even though Fully Connected Neural Networks are a “black box” model, Shapley values help us to alleviate the “black box” problem. FCNNs perform well with complex dataset with more than 60 financial ratios. Combined with SHAP framework, we create an effective model with understandable interpretation. Bankruptcy is a rare event, then we avoid imbalanced dataset problem with the help of SMOTE. SMOTE is one of the oversampling technique that resulting synthetic samples are generated for the minority class. It uses K-nearest neighbors algorithm for line connecting method in order to producing examples. We expect our model results assist financial analysts who are interested in forecasting bankruptcy prediction of companies in detail.

It is difficult for non-experts to build machine learning (ML) models at the level that satisfies their needs. Deep learning models are even more challenging because it is unclear how to improve the model, and a trial-and-error approach is not feasible since training these models are time-consuming. To assist these novice users, we examined how interactive and explainable feedback while training a deep learning network can contribute to model performance and users’ satisfaction, focusing on the data preparation process. We conducted a user study with 31 participants without expertise, where they were asked to improve the accuracy of a deep learning model, varying feedback conditions. While no significant performance gain was observed, we identified potential barriers during the process and found that interactive and explainable feedback provide complementary benefits for improving users’ understanding of ML. We conclude with implications for designing an interface for building ML models for novice users.

본 연구는 GPT-4o Realtime API 기반 실시간 음성 대화 환경을 활용하여, 한국어 학습자의 삼중 파열음 발음 오류 평가에서 설명 가능성을 탐색하였다. 전사 기반 평가는 조음 안내에 한계가 있으므로, 음성을 직접 인식해 자연어로 응답하는 피드백의 교육적 잠재력을 실증적으로 검토하였다. AI-Hub의 인도네시아·베트남 학습자 40명의 120개 음성 자료에 대해 전문가 점수, Azure 점수, Realtime API의 발음 평가와 자연어 피드백을 수집하였다. Realtime API 응답은 오류 위치·원인·개선 및 격려로 주석화하고, 정합성 분석과 k-means 군집 분석을 수행하였으며, 세 체계 간 점수 분포는 기술통계와 Bland–Altman 분석으로 비교하였다. Realtime API와 Azure는 전문가보다 상대적으로 높은 점수를 산출했고, 양자 간 점수는 유사하였다. Realtime API는 오류 음절을 정확히 지목하고 구체적 개선 방향을 제시했으나, 원인 진술은 대체로 모호하여 ‘부분 정합’이 우세했다. 모든 문장에 격려가 포함되었으며, 칭찬, 수용, 명료성 강조, 연습 유도 등 다양한 유형이 나타났다. 삼중 파열음을 중심으로 Realtime API의 설명 가능성을 검토한 결과, 정량적 기준이 미흡한 상황에서도 학습자가 즉시 반응할 수 있는 음성 기반 설명형 피드백을 제공할 수 있음을 확인하였다. 향후 오류 원인의 음향음성학적 정합성과 실제 교육 적용 가능성에 대한 후속 검증이 필요하다.

This study, motivated by the limitations of transcription-based evaluation for articulatory guidance, explores the explainability of pronunciation assessment using a GPT-4o Realtime API?based system, focusing on Korean L2 learners’ three-way stop consonants. A total of 120 utterances from 40 Indonesian and Vietnamese learners were analyzed, and expert ratings, Azure scores, and Realtime API assessments were collected. Realtime API outputs were annotated for error location, cause, correction, and encouragement. We examined explanation consistency, performed k-means clustering, and compared score distributions using descriptive statistics and Bland?Altman analysis. The Realtime API and Azure produced higher scores than experts and showed similar distributional patterns. The Realtime API accurately pinpointed erroneous syllables and provided concrete correction suggestions, although causal explanations were often vague, showing only partial consistency. All responses included encouragement (e.g., praise, acceptance, clarity emphasis, practice prompts). Focusing on Korean three-way stops, this study suggests that the Realtime API can deliver actionable, real-time, speech-based explanatory feedback; future work should validate acoustic-phonetic causes and explore classroom applicability.

인공지능과 빅 데이터의 발전은 그것의 유용성 못지 않게 데이터 편향성과 같은 문제점을 야기하였다. 일각에선 그러한 데이터 편향성이 차별을 재생산하고 확대할 수 있다고 주장한다. 따라서 그들은 데이터 편향성을 교정할 수 있는 기준을 확립하도록 노력해야 함을 역설한다. 하지만 데이터 편향성이 갖는 문제점에도 불구하고 이를 교정하려는 시도는 매우 조심해서 이루어져야 한다. 데이터 편향성의 교정 과정에서 의도치 않은 윤리적 문제점이 발생할 수 있기 때문이다. 본 논문에선 인공지능 알고리즘에 대한 적극적인 윤리적 개입이 평등권에 침해를 야기할 수 있음을 드워킨의 관점에서 보이고자 할 것이다. 또한 인공지능 알고리즘으로부터 사회 구성원 일반의 평등권을 보호할 수 있는 방법으로서 설명 가능성 원칙을 제시하고자 한다.

In addition to being useful, artificial intelligence and big data create problems such as data bias. Data bias can reproduce and expand discrimination. This urges the establishment of standards and efforts to correct data bias. Some such arguments say that data bias can cause human discrimination and violate equal rights. However, regardless of the data bias problem, attempts to correct it must be very careful as it can lead to various ethical issues. This study shows that active ethical intervention in artificial intelligence algorithms can cause an equal rights violation from Dworkin’s perspective. Also present the explanatory principle to protect the equal rights of general members of society from artificial intelligence algorithms.

의료 인공지능은 특정 진단에서 높은 정확도를 보이지만 모델의 신뢰성 문제로 인해 활발하게 쓰이지 못하고 있다. 이에 따라 인공지능 모델의 진단에 대한 원인 설명의 필요성이 대두되었고 설명가능한 의료 인공지능에 관한 연구가 활발히 진행되고 있다. 하지만 MRI 등 의료 영상 인공지능 분야에서 주로 진행되고 있으며, 이미지 형태가 아닌 전자의무기록 데이터 (Electronic Health Record, EHR) 를 기반으로 한 모델의 설명가능성 연구는 EHR 데이터 자체의 복잡성 때문에 활발하게 진행 되지 않고 있다. 본 논문에서는 전자의무기록 데이터인 MIMIC-III (Medical Information Mart for Intensive Care) 를 전처리 및 그래프로 표현하고, GCT (Graph Convolutional Transformer) 모델을 학습시켰다. 학습 후, 어텐션 흐름 그래프를 시각화해서 모델의 예측에 대한 직관적인 설명을 제공한다.

최근 대규모 언어모델(LLM)의 발전으로 자연어 처리 기반 시스템의 활용 가능성이 크게 확장되고 있다. 특히 금융 도메인에서는 고객 맞춤형 피드백을 통한 설명 가능성과 신뢰성이 중요한 요소로 부상하고 있다. 그러나 기존의 규칙 기반 금융대출심사 시스템은 개인의 구체적 재무 상황과 맥락을 충분히 반영하지 못하고 정형화된 피드백만을 제공하여 고객의 행동 변화를 유도하는 데 한계가 있다. 본 연구는 이러한 문제점을 해결하기 위해 RAG(retrieval augmented generation)를 결합한 LLM 기반 금융대출심사 시스템을 제안한다. 제안된 시스템은 외부 금융 문서를 RAG로 검색한 뒤 검색된 컨텍스트가 LLM에 입력으로 들어가는 구조로 구현되었다. 이는 금융 문서 및 고객 데이터를 기반으로 실시간으로 외부 지식을 검색하여 전문적인 문서 기반의 구체적이고 실행 가능한 금융 개선 방안을 제공한다. 실제 고객 데이터를 활용한 실험 결과, 제안된 RAG 기반 시스템은 기존 시스템 대비 정보 검색 및 자연어 생성 성능 측면에서 의미 있는 성능 향상을 보였으며, 전문적인 금융 문서 참조를 통해 개인 맞춤형 금융 서비스의 신뢰성과 효율성을 높이는 데 기여할 수 있음을 보여준다.

Recent advances in large language models (LLMs) have significantly expanded the capabilities of natural language processing systems. In the financial domain, delivering explainable and reliable personalised feedback has become increasingly important. However, traditional rule-based loan screening systems fall short in reflecting an individual’s financial context and providing actionable guidance. To address these limitations, this study proposes an LLM based loan screening system enhanced with RAG (retrieval augmented generation). The system retrieves relevant financial documents via vector-based search and feeds the context into a generative model. By leveraging external knowledge in real time, the system offers document-grounded, personalised financial recommendations. Experiments using real customer data show that the proposed RAG-based system significantly outperforms existing methods in both information retrieval and language generation. These results demonstrate the system’s potential to enhance the reliability and effectiveness of personalised financial services through the integration of professional document references.

In the last 10 years, AI has made rapid progress, and image classification, in particular, are showing excellent performance based on deep learning. Nevertheless, due to the nature of deep learning represented by a black box, it is difficult to actually use it in critical decision-making situations such as national defense, autonomous driving, medical care, and finance due to the lack of explainability of judgement results. In order to overcome these limitations, in this study, a model description algorithm capable of local interpretation was applied to the inception network-derived AI to analyze what grounds they made when classifying national defense data. Specifically, we conduct a comparative analysis of explainability based on confidence values by performing LIME analysis from the Inception v2_resnet model and verify the similarity between human interpretations and LIME explanations. Furthermore, by comparing the LIME explanation results through the Top1 output results for Inception v3, Inception v2_resnet, and Xception models, we confirm the feasibility of comparing the efficiency and availability of deep learning networks using XAI.

일반적으로 중소기업의 재무제표에 대한 신뢰성 문제는 오랫동안 제기되어 왔으며 이에 따라 결측치 및 이상치 비중이 상대적으로 높을 뿐만 아니라 오류에 의한 값인지 실제 값인지 명확하게 확인하기 어렵다. 이러한 이유로 일반적으로 신용평가 모형 구축 시 결측치와 이상치 값을 모두 제거하기 때문에 정보의 활용성이 낮을 뿐만 아니라 정확하고 고도화된 모형 구축에 어려움이 있었다. 본 연구에서는 이러한 중소기업 신용평가의 비정형화된 정보의 활용가능성에 주목하여 결측치와 이상치를 고려한 신용평가모형을 구축한다. 이를 위한 분석자료는 중소기업통합시스템(SIMS)에 해당하는 기업을 선별하여 총 1,758,760개의 데이터이며, 알고리즘은 로지스틱 회귀모형과 심층신경망을 이용하였고, 설명 가능한 AI 기법(XAI)을 활용하여 유의한 변수를 도출하였다. 결과적으로, 로지스틱 회귀모형과 비교하여 심층신경망 모형의 AUC가 높았으며, 부도 예측에 기여도가 높은 변수들은 이상치 변수를 포함하여 제조업이 재무적 특징을 잘 반영한 결과를 보였다. 이에 따라 부도 예측에 영향을 미치는 변수를 해석하고, 모형이 갖는 사용변수의 제약성을 줄이고 모형의 안정성과 일반화가 가능하다는 결론을 내릴 수 있었다.

In general, the reliability of financial statements of SMEs has been raised for a long time and it is difficult to study the advancement of credit scoring system due to the difficulty of data collection. Due to these reasons when constructing the general credit scoring system, the system eliminates the missing value and outliers. Furthermore, the system has a low application of information, and it has difficulty constructing an accurate and advanced model. This study aims to construct an ideal credit scoring system considering the missing value and outliers by focusing on the usage of unstructured information in SMEs credit scoring system. The number of this basis of analytic data consists of 1,758,760(pieces) and it is selected by SIMS. The algorithm is based on logistic regression and deep neural networks. Significant variables were derived using explainable AI (XAI). In conclusion, the AUC had a higher outcome than the logistic regression model. The variables with a higher level of contribution to bankruptcy expectation offered results of the financial characteristic of the manufacturing industry, including outliers. On the basis of results, the model defines the effect of variables of bankruptcy expectation. Also, it is concluded that a model is possible to reduce the constraintability of variables, offering stability and generalization.

인공지능 기술의 급속한 발전에 따라 알고리듬이 매개하는 자동화된 의사결정이 확산되고 있다. 알고리듬의 영향력이 커지면서, 이로 인해 발생하는 문제에 대응하기 위해 문제의 원인과 영향을 설명할 책임, 그리고 가장 중요하게는, 발생한 문제의 책임을 누가 져야 하는지에 대한 정책적 접근의 필요성이 새롭게 대두되면서, 알고리듬 책무성 개념이 활발하게 논의되고 있다. 알고리듬 책무성의 한 차원으로 GDPR에서는 설명을 요구할 권리가 제시되었다. 이는 알고리듬이 만든 특정화된 결정에 대해 정보주체가 이해하고 자신의 권리를 보호하기 위해서 정보관리자에게 설명을 요구할 권리가 있음을 의미한다. 그러나 설명의 요구범위와 설명가능성과 관련해서 다양한 관점이 제시되고 있어, 현재까지는 불안정한 개념으로 자리잡고 있다. 이에 이 글에서는 설명을 요구할 권리에 대한 법률적 해석과는 별개로, 알고리듬 설명가능성 문제를 컴파스(COMPAS) 알고리듬 공정성을 둘러싼 논쟁을 중심으로 논하였다. 컴파스 알고리듬 사례를 중심으로 알고리듬이 발생시키는 문제의 유형을 살펴보고, 알고리듬의 설명가능성을 확보하기 위한 검증 방법의 하나로 리버스 엔지니어링 기법을 소개하였다. 끝으로 데이터에 대한 요구가 가능하고 사전 설계단계에서 사회적 규제의 필요성이 있는 공공 분야 알고리듬에 대한 사전 영향성 평가를 제안했다.

Algorithmic systems in social media platforms are increasingly being used as part of decision-making processes in both public and private sectors, with potentially significant consequences for individuals, organizations, and societies as a whole. However, there are growing concerns that many of these systems are opaque to people affected by their use due to the lack of clear explanations for how a particular algorithmic decision is made. This study first introduces problems of personalized algorithm in social media platforms (i.e., the creation of filter bubble in online communities, collection of private information of social media users, and algorithmic bias and unfairness) as a backdrop of rising issues of algorithmic accountability. In addition, the current study illustrates a case of COMPAS and explores explanability of algorithm in the case. Finally, this research suggests revers engineering techniques as a method to promote algorithmic accountability.

나는 이 글에서 ‘신뢰가능한 인공지능’을 위해 요구되는 중요한 가치 중의 하나인 ‘설명가능성’에 대한 개념 비판적 고찰을 시도한다. 이를 위해 최근 발표된 유럽연합의 “인공지능 법”과 2019년에 발표된 “신뢰가능한 인공지능을 위한 윤리 가이드라인”을 분석하면서‘신뢰성’이 이미 인공지능 기술 개발 방향의 가장 중요한 가치로 자리 잡았다는 사실과 이개념을 구성하는 가장 중요한 요소가 설명가능성이라는 사실을 간략하게 소개한다. 이 문건들이 규정하는 ‘설명가능성’은 기술적 투명성과 인터페이스상의 소통가능성을 아우르고있기는 하지만, 후자에 더 많은 무게를 두고 있다는 사실을 밝힌다. 이를 배경으로 ‘설명가능성’ 개념의 기술적 구현의 대표적인 예로서 미국의 방위고등연구계획국의 ‘설명가능한인공지능 XAI’프로젝트에 주목하여 이 프로젝트에서 주장하는 설명가능성의 필요성의 근거가 무엇이며, 새로운 인공지능 기술이라고 주장하는 설명가능한 인공지능 XAI을 통해설명해 내고자 하는 것은 무엇인지 밝힌다. 그리고 이 둘이 서로 일치하지 않음을, 다시말해 그들이 설명이 필요하다고 하였을 때, 그 ‘설명’의 의미와 실제로 제시하고자 하는‘설명’의 의미가 다름을 지적하고자 한다.

In this paper, I critically examine the concept of ‘explainability’, a key value required for ‘trustworthy artificial intelligence’. I analyze the AI Act and the “Ethics Guidelines for Trustworthy AI” released by the EU in 2019, introducing the idea that 'trustworthiness’ has become the most important value in AI technology development, with ‘explainability’ being a crucial component. The ‘explainability’ defined in these documents encompasses technical transparency and the possibility of communication through interfaces but emphasizes the latter more. Based on this, I highlight the U.S. Defense Advanced Research Projects Agency’s ‘Explainable AI (XAI)’ project as a representative example of the technical implementation of explainability, discussing the rationale behind the project’s call for explainability and what it seeks. This paper argues that the emphasis on communication-oriented explainability in the EU framework may not align with the technical focus of the US approach, potentially hindering the development of truly trustworthy AI.

인공지능 특히 머신러닝 알고리즘은 의료 분야나 금융 분야뿐만 아니라 법 분야에서 재범의 위험성 예측과 범죄 예측 등에 활용되고 있다. 이러한 인공지능에서 가장 문제되는 것은 블랙박스 속성으로, 인공지능의 작동 기제를 인간이 제대로 이해하지 못한다는 것이다. 재범의 위험성 예측 등에 사용되는 딥러닝 또는 머신러닝 아키텍처의 내부 작동은 점점 더 복잡하고 불투명해지고 있다. 다른 분야도 마찬가지이지만, 법 분야에서 이러한 인공지능의 의사 결정 과정의 투명성을 보장하고 나아가, 그 의사결정과정을 비전문가들에게 설명할 수 있는 체계가 필수적이다. 법 분야에서의 의사결정은 그 결과뿐만 아니라, 그 절차적 정당성이 매우 중요하기 때문이다. 법 분야 의사결정 알고리즘의 대표 격으로 거론되는 재범 위험성 예측 알고리즘 COMPAS는 피고인의 석방 여부 결정이나 형량 결정 등에 사용되고 있다. COMPAS의 도입･시행 이후, 이 알고리즘을 둘러싼 논란과 여러 비판에서 보듯 미국에서 널리 사용되고 있는 COMPAS는 인종차별적인 결과를 내는 등 문제점이 많은 것으로 드러났다. 인공지능의 블랙박스 속성 때문에 COMPAS의 작동 기제를 알지 못한다. 편향적 결과로 인해 피해를 본 사람도 이와 같은 블랙박스 속성 때문에 그 결과를 탄핵할 수 없다. 이러한 블랙박스로 인한 인공지능 알고리즘의 문제점을 해결하려는 해법이 필요하다. 그 해법의 가장 큰 줄기가 바로 ‘설명 가능한 인공지능’이다. 설명가능 인공지능은 인공지능이 내린 의사결정의 이유를 사람이 이해할 수 있는 방식으로 제시하는 인공지능을 일컫는다. 인공지능의 발전에 상당한 기여를 했다는 평가를 받고 있는 미 방위고등연구계획국은 몇 년 전부터 이러한 설명 가능한 인공지능 연구에 대해 막대한 지원을 하고 있다. 물론 인공지능 연구자 중에는 설명 가능한 인공지능의 가치에 대해 의문을 던지고 있는 이도 있다. 심지어 인간의 의사결정과정도 쉽게 설명될 수 있는 것이 아니라며, 인공지능의 의사결정 과정의 설명 가능성과 실용성 모두를 의문시한다. 이런 회의론 에도 불구하고, 법 분야에서 인간의 의사결정을 대체하는 수준의 인공지능 알고리즘이 개발되고, 자리 잡기 위해서는 설명 가능한 인공지능 과제는 반드시 해결되어야 한다. 따라서 본 연구에서는 이러한 설명 가능한 인공지능의 개념과 그것이 법 분야 인공지능 알고리즘 구현과 활용에 얼마나 중요한지를 따져보고, 그것의 실현가능성을 점쳐 본다. 이런 설명 가능한 인공지능으로 인하여 편향성이나 차별 등 공정성 가치를 저해하는 등 여러 가지 문제점이 해결될 것으로 기대한다.

Artificial intelligence, in particular, machine learning algorithms are used not only in the medical field or finance field, but also in the law field to predict the risk of recidivism, predict crime, and improve legal services. The most problematic aspect of such artificial intelligence is the black box problem, which is that humans do not properly understand the mechanism of operation of artificial intelligence. The inner workings of deep learning or machine learning architectures are becoming increasingly complex and opaque. As is the case in other fields, in the field of law, a system is essential to ensure transparency in the decision-making process of artificial intelligence, and to explain the decision-making process to non-experts. Decision-making in the field of law is because not only the outcome, but also its procedural justification is very important. The recidivism risk prediction algorithm COMPAS, which is mentioned as a representative case of decision-making algorithms in the legal field, is used for determining whether to release a defendant or determining a sentence. Since the introduction and implementation of COMPAS, as seen in the controversy and criticisms surrounding this algorithm, COMPAS, which is widely used in the United States, has been found to have many problems, such as racist results. Due to the black box nature of artificial intelligence, we do not know the mechanism of COMPAS. Even those who have suffered damage due to the biased result cannot challenge the result because of the black box property. There is a need for a solution to solve the problem of artificial intelligence algorithms caused by such black boxes. The biggest stem of the solution is ‘explainable artificial intelligence'. Explainable artificial intelligence refers to artificial intelligence that presents the reasons for decisions made by artificial intelligence in a way that humans can understand. The U.S. Defense Advanced Research Projects Agency (Darpa), which is considered to have made a significant contribution to the advancement of artificial intelligence, began to provide enormous support for such explanatory artificial intelligence research several years ago. Of course, some of the AI researchers are questioning the value of explainable AI. Even the human decision-making process cannot be explained easily, and they question both the explanatory feasibility and practicality of the decision-making process of artificial intelligence. Despite this skepticism, in order to develop and establish an artificial intelligence algorithm at a level that replaces human decision-making in the field of law, an explainable AI task must be solved. Therefore, in this study, the concept of explainable artificial intelligence and how important it is to the implementation and application of artificial intelligence algorithms in the legal field, and its feasibility are examined. It is expected that a large number of problems that hinder fairness values such as bias and discrimination will be solved by such explainable artificial intelligence. Apart from that, I would like to discuss with you whether there is a way to solve the problem of impairing fairness value caused by artificial intelligence algorithms.

당뇨병은 전 세계 5억 3,700만 명 이상의 성인에게 영향을 미치는 만성질환으로, 예방 가능한 이환율 및 사망률의 주요 원인이다. 기존 연속혈당측정(CGM) 기반 예측 시스템은 단일 신호 의존성, 60분 이하의 짧은 예측 범위, 불충분한 해석 가능성, 그리고 다채널 응급 대응 메커니즘의 부재라는 한계를 가진다. 본 연구는 이러한 네 가지 한계를 동시에 해결하는 종단간 멀티모달 플랫폼인 GlucoSense AI를 제안한다. GlucoSense AI는 CGM, HRV, SpO₂, 혈압, 체온 및 수면 단계 신호를 결합한 88차원 특징 벡터 기반 6모달 융합 프레임워크, TFT·BiLSTM-Transformer·CNN-GRU·XGBoost·Random Forest로 구성된 다중 시간대 앙상블(30/60/90분), SHAP 및 GPT-oss 20B 기반 온프레미스 설명 가능성 모듈, 복합 위험 점수 기반 다채널 응급 파이프라인, 그리고 EHR 기반 개인화 미세조정을 통합한다. OhioT1DM(n=12) 데이터셋에 대한 LOPO 교차검증 결과, GlucoSense 앙상블은 30/60/90분 예측에서 RMSE = 5.2/7.8/10.9 mg/dL, Clarke Zone A = 97.4%, 응급 AUC = 0.998(중앙 지연시간 11초)을 달성하였다.

Diabetes mellitus affects more than 537 million adults worldwide and remains a leading cause of preventable morbidity and mortality. Existing CGM-based prediction systems are limited by unimodal signal reliance, short forecasting horizons not exceeding 60 minutes, insufficient interpretability, and the absence of integrated multi-channel emergency response mechanisms. This study introduces GlucoSense AI, an end-to-end multimodal platform simultaneously addressing all four limitations. GlucoSense AI integrates: (1) a six-modal physiological fusion framework combining CGM with HRV, SpO₂, blood pressure, body temperature, and sleep-stage signals into an 88-dimensional feature representation; (2) a multi-horizon stacked generalization ensemble (TFT, BiLSTM-Transformer, CNN-GRU, XGBoost, Random Forest) generating calibrated predictions at 30-, 60-, and 90-minute horizons; (3) a hybrid SHAP + GPT-oss 20B explainability module operating fully on-premises; (4) a composite-risk-score-driven multi-channel emergency pipeline; and (5) EHR-driven personalized fine-tuning. Evaluated via LOPO cross-validation on OhioT1DM (n=12), the GlucoSense Ensemble achieved RMSE = 5.2/7.8/10.9 mg/dL at 30/60/90 minutes, Clarke Zone A = 97.4%, and emergency AUC = 0.998 with median latency of 11 seconds.