Earticle

초록

한국어

최근 AI 기술과 알고리즘의 발전에 따라 자동화된 의사결정 시스템(ADMS)에 대한 기대와 관심이 높아지고 있다. 그러나 ADMS의 공정성, 편향성, 투명성과 관련된 다양한 윤리적 측면의 문제점이 드러나면서 사용자의 신뢰성과 수용성 저하를 유발하고 있다. 이에 본 연구에서는 ADMS에 대한 사용자들의 수용성을 높이기 위한 전략을 수립하기 위해, ADMS에 대한 사용자의 공정성, 편향성, 투명성, 신뢰성 인식이 수용성에 미치는 영향을 살펴보고자 하였다. 구체적으로 본 연구에서는 ATIAS 모델과 공정성 이론을 바탕으로 공정성과 편향성이 신뢰성에 영향을 미치고, 이를 통해 수용성에 영향을 미칠 것으로 가설을 설정하였다. 또한, 신뢰성이 수용성에 미치는 효과는 투명성에 의해 조절될 것이며, 이에 따라 공정성과 편향성이 신뢰성을 매개로 수용성에 미치는 효과가 투명성에 의해 조절될 것으로 가설을 설정하였다. 수립된 가설을 검증하기 위해 ADMS 사용 경험이 있는 국내 성인을 대상으로 온라인 설문조사를 실시하였으며, 500부의 연구 데이터를 수집하였다. 수집된 데이터는 SmartPLS의 PLS-SEM, PLSPredict 모듈과 SPSS의 PROCESS Macro를 사용하여 분석하였으며, 분석한 결과는 다음과 같다. 첫째, 공정성은 신뢰성에 유의한 정(+)의 영향을 미쳤다. 둘째, 편향성은 신뢰성에 유의한 영향을 미치지 않았다. 셋째, 신뢰성은 수용성에 유의한 정(+)의 영향을 미쳤다. 넷째, 신뢰성은 공정성과 수용성을 매개하였다. 다섯째, 신뢰성이 수용성에 미치는 효과는 투명성에 의해 조절되었다. 여섯째, 공정성이 신뢰성을 매개로 수용성에 미치는 효과는 투명성에 의해 조절되었다. 이상의 연구결과를 바탕으로 본 연구는 ADMS에 대한 신뢰성과 수용성을 높이기 위한 전략과 사회적으로 신뢰할 수 있는 ADMS 기술의 발전 방향을 제시하였다.

영어

The rapid advancements in AI technologies and algorithms have significantly amplified expectations and interested in surrounding automated decision-making systems (ADMS). However, growing concerns about ethical issues such as fairness, bias, and transparency have undermined user trust and acceptance. This study aims to develop strategies to enhance user acceptance of ADMS by investigating the impacts of users’ perceptions of fairness, bias, transparency, and trust. Specifically, it examines how fairness and bias influence trust, which subsequently mediates their effects on acceptance, and whether transparency moderates these relationships. Based on the Model of AI trust and the intention to Use AI systems(ATIAS) and Fairness Theory, this study hypothesizes that fairness and bias shape trust, which in turn impacts acceptance. Additionally, it assumes that transparency moderates the relationship between trust and acceptance, as well as the mediated effect of fairness and bias on acceptance via trust. To test these hypotheses, an online survey was conducted with 500 South Korean adults experienced in using ADMS. The collected data were analyzed using PLS-SEM and PLSPredict in SmartPLS, along with PROCESS Macro in SPSS. The findings indicate that, first, fairness positively affected trust. Second, bias did not significantly affected trust. Third, trust positively affected acceptance. Fourth, the relationship between fairness and acceptance was mediated by trust. Fifth, the effect of trust on acceptance was moderated by transparency. Finally, the transparency moderated the mediating effect of trust. These findings offer practical strategies to bolster user trust and acceptance of ADMS while providing valuable insights for the development of socially trustworthy ADMS technologies.

목차

요약
Ⅰ. 서론
Ⅱ. 이론적 배경
2.1 자동화된 의사결정 시스템(ADMS)
2.2 ATIAS 모델(Model of AI trust and the intention to Use AI systems)
2.3 ADMS의 공정성(Fairness)과 편향성(Bias)
2.4 ADMS의 신뢰성: 기계 휴리스틱(Machine Heuristic)의 관점
2.5 ADMS의 투명성(Transparency)
2.6 ADMS의 수용(Acceptance)
Ⅲ. 연구모형 및 연구가설 설정
3.1 연구모형 설계
3.2 공정성, 편향성과 수용성의 관계에서신뢰성의 매개효과
3.3 투명성의 조절효과
Ⅳ. 연구방법
4.1 데이터 수집
4.2 측정 문항
4.3 분석방법
Ⅴ. 분석 결과
5.1 측정모형 평가
5.2 구조모형 평가
5.3 분석 결과
Ⅵ. 결론
6.1 이론적 시사점
6.2 실무적 시사점
6.3 연구 한계 및 향후 연구 제언
참고문헌
Abstract

저자

• 이준혁 [ Jun-hyuk Lee | 연세대학교 바른ICT연구소 연구교수 ]
• 김채원 [ Chae-won Kim | 연세대학교 정보대학원 석사과정 ]
• 김현정 [ Hyeonjeong Kim | 연세대학교 바른ICT연구소 연구교수 ] 교신저자

참고문헌