Earticle

Integrating Large Language Models (LLMs) into high-stakes evaluations like hiring and loans poses dual challenges: reducing algorithmic bias and embedding human compassion. We propose an AI evaluation framework grounded in the four-factor model of organizational justice, restructured into two dimensions: Structural Justice (procedural and distributive fairness) and Interactional Justice (interpersonal and informational compassion). Our modular, multi-agent system includes a Criteria Generator for fair rubric design and an Application Evaluator with two LLM agents—a “just bureaucrat” scoring structural fairness and a “compassionate communicator” scoring interactional fairness. These qualitative scores integrate with quantitative predictions through a Budget-Aware Fair Ranker to produce optimized outcomes. This framework offers a blueprint for AI systems that balance fairness with empathy, advancing beyond bias mitigation to foster just and compassionate decision-making in automated evaluations.

머신러닝 모델은 기업 신용평가 시스템에서 자동화된 리스크 평가와 의사결정 지원을 위해 널리 활용되고 있다. 그러나 기업 집단 간 데이터 분포와 특성 구조의 차이로 인해 그룹 수준의 예측 편향이 발생하면 시스템의 일관성과 신뢰성이 저해될 수 있다. 본 연구는 기업 유형을 민감 속성으로 설정하고, 실제 기업 데이터를 활용하여 머신러닝 기반 기업 신용평가 모델의 알고리즘 공정성(fairness)을 실증적으로 평가하였다. 스태킹 앙상블 기반 프레임워크 기반에서 전처리(pre-processing), 중처리(in-processing), 후처리(post-processing)의 세 가지 공정성 개입 방법을 적용하고 그 효과를 비교하였다. 실험에서는 예측 성능 지표로 ROC 곡선 아래 면적(AUC)을 사용하고, 그룹 수준 평가를 위해 인구통계학적 패리티, 기회균등, 균형된 기회 등 다양한 공정성 지표를 측정하였다. 분석 결과, 공정성 개선과 예측 성능 손실 사이에 상충관계(trade-off)가 존재하는 것으로 나타났다. 후처리 방법은 공정성을 크게 향상시켰으나 AUC는 다소 감소하였고, 중처리 방법은 비교적 작은 성능 저하로 공정성 향상을 달성하여 성능 안정성과 공정성 제약 간의 균형점을 제공하였다. 이러한 연구 결과는 실제 기업 신용평가 시스템에서 공정성 제약 적용 여부와 적절한 기법 선택에 대한 실무적 시사점을 제공한다.

Machine learning models are widely utilized in corporate credit scoring systems for automated risk assessment and decision support. However, group-level prediction bias arising from differences in data distribution and feature structures between corporate groups can undermine the consistency and reliability of these systems. This study empirically evaluates the algorithmic fairness of machine learning-based corporate credit scoring models using real-world corporate data, setting corporate type as a sensitive attribute. Under a stacking ensemble framework, we applied and compared the effects of three fairness intervention methods: pre-processing, in-processing, and post-processing. In the experiment, the Area Under the Receiver Operating Characteristic curve (AUC) was used as a metric for prediction performance, and various fairness metrics, such as Demographic Parity, Equal Opportunity, and Equalized Odds, were measured for group-level assessment. The analysis revealed a trade-off between fairness improvement and prediction performance loss. Post-processing methods significantly improved fairness but resulted in a decrease in AUC, whereas in-processing methods achieved fairness improvement with relatively minor performance degradation, offering a balance point between performance stability and fairness constraints. These findings provide practical implications for the application of fairness constraints and the selection of appropriate techniques in actual corporate credit scoring systems.

인공지능 기술의 급격한 발전에 따라 알고리즘의 사회 적용이 일반화되면서, 규범적 가치, 특히 공정성 기준을 어떻게 자동화된 의사결정 구조에 반영할지가 인공지능 거버넌스의 중요한 의제로 부상하고 있다. 이 논문의 일차적 목표는 알고리즘 공정성에 대한 피상적인 논의에서 벗어나, 해당 주제의주요 개념과 근본 문제를 소개하고, 기초적인 통계 지식으로 이해 가능한 사례를 제시하는 것이다. 알고리즘 사회 적용 파이프라인의 구조, 공정성 개념의 종류와 이들의 관계, 규범적 기준을 자동화된 의사결정에 반영하는 방법을 다루고, 이를 통해 시대적 요구에 발맞춘 진전된 논의를 도모한다. 나아가, 사회과학이 개척해야 할 연구 영역과 발전 방향은 무엇이 될 수 있는지 알아보고, 앞으로의 사회과학은 기존의 회고적 학문에서 실천적 학문으로 나아가야 함을 주장한다.

As the rapid advancement of artificial intelligence has led to the widespread applications of algorithms in the society, the question of how to incorporate normative values, especially fairness criteria, into automated decision making has become an important agenda in Artificial Intelligence (AI) governance. The primary objective of this paper is to elucidate the key concepts and fundamental issues of algorithmic fairness by presenting examples that are accessible to readers with basic statistical knowledge. I address the pipeline of algorithm-assisted decision making, types of fairness concepts and their relationships, and approaches for embedding normative standards into the automated decision making pipeline. Finally, I explore potential research areas in related topics for social scientists and suggest that social sciences should progress from retrospective disciplines to practical disciplines.

본 연구는 공공부문에서 사용하는 인공지능(AI) 기반 알고리즘 시스템에서 나타난 편향 문제의 원인과개선 전략을 다차원적으로 분석하는 시론적 연구이다. 최근 10년간 전 세계적으로 주목받은 주요 알고리즘 편향 사례 11건을 선정하여, 기술적 편향, 절차적 정당성, 분배적 형평성, 정부의 대응 등 네 가지 차원의 분석 틀을 적용해 체계적으로 비교･분석하였다. 분석 결과, 공공부문의 AI 알고리즘 편향은 주로 데이터의 편향성, 모델 설계의 한계, 절차적 투명성의 부재 등 기술적･제도적 결함이 복합적으로 작용하여 사회적 약자에게 피해가 집중되는 공통된 양상을 드러냈다. 또한 알고리즘 공정성 확보를 위한 정책적･제도적 준비가 부족한 상황에서 알고리즘 도입이 확대되면서, 기존 사회의 구조적 불평등이 자동화된 의사결정과정에 그대로 반영되고 있음을 확인하였다. 본 연구는 공공부문의 AI 시스템 도입에 따른 구조적 문제를드러내고 공정성 개선을 위한 통합적 정책 및 제도적 구축 방향을 제안하였다는 점에서 의미가 있다.

This study is an exploratory analysis of the causes of bias and possible strategies for improving fairness in artificial intelligence (AI)-based algorithmic systems used in the public sector. It systematically compares and analyzes 11 major algorithmic bias cases from the past decade?drawn from various countries?using a multidimensional analytical framework that includes four dimensions: technical bias, procedural fairness, distributive equity, and governmental response. The findings reveal that algorithmic bias in the public sector often arises from a combination of factors, including biased datasets, limitations in model design, and a lack of procedural transparency. These biases have disproportionately affected vulnerable social groups. Furthermore, the study confirms that the rapid adoption of algorithmic systems without sufficient policy and institutional safeguards has led to the reproduction and reinforcement of structural inequalities within automated decision-making processes. By identifying the structural issues associated with AI implementation in the public sector, this study provides policy-relevant implications and proposes a direction for developing an integrated institutional framework to promote algorithmic fairness.

This study aims to structurally examine the effect of perceived fairness on consumers’ purchase intention in the context of AI-based menu recommendation services and to investigate the moderating role of perceived transparency in this process. A survey was conducted among consumers who had experience using AI-based menu recommendation services. Data were collected through an online survey from September 1 to September 15, 2025. A total of 351 valid responses were analyzed using structural equation modeling and bootstrapping techniques to test the proposed hypotheses. The results indicate that AI-based menu recommendations have a significant indirect effect on purchase intention through perceived fairness. However, the moderating effect of perceived transparency and the moderated mediation effect were not statistically significant. These findings suggest that perceived fairness plays a more critical role than transparency in the acceptance of AI recommendation services. The study highlights the importance of designing AI services that enhance consumers’ perceptions of fairness to effectively increase purchase intention.