Earticle

초록

영어

In this study, we designed an investigation to explore how medical information professionals perceive the 'black box problem,' a core limitation of AI agents. We surveyed 60 specialists to analyze the effects of AI's inexplicability (black-box perception), empathetic interaction, and privacy sensitivity on user trust and adoption in the healthcare context. Our primary findings reveal that our core hypotheses were not statistically supported; black-box perception did not significantly decrease user trust, nor did empathetic interaction significantly enhance it. We believe this suggests that for expert users, the functional output and accuracy of an AI may be more critical than the transparency of its internal process. Among the statistically significant effects we identified, a notable paradoxical relationship emerged: smoother user interaction correlated with increased privacy sensitivity. Furthermore, we observed that experts with more clinical experience tended to be less sensitive to the black box problem. Ultimately, we argue that these results offer key insights for designing trustworthy medical AI systems, emphasizing that a multifaceted strategy is necessary. This approach must go beyond solely pursuing explainability and should also incorporate considerations for the user's level of expertise and robust privacy-preserving measures.

한국어

본 연구는 의료 정보 분야에서 AI 에이전트의 핵심 한계인 '블랙박스 문제'에 대한 전문가 집단의 인식을 탐구하고, 이것이 사용자 신뢰 및 수용 의도에 미치는 효과를 분석하는 것을 목적으로 설계되었다. 이를 위해 의학사서 등 의료정보 전문가 60명을 대상으로 AI의 불투명성(블랙박스 인식), 공감적 상호작용, 프라이버시 민감성이 신뢰 및 수용에 미치는 효과를 설문조사를 통해 분석하였다. 주요 연구 결과, AI의 블랙박스 인식이 사용자의 신뢰도를 직접적으로 낮추거나, 공감적 상호작용이 신뢰도를 유의미하게 높인다는 핵심 가설들은 통계적으로 지지되지 않았다. 이는 전문가 집단이 AI 판단 과정의 투명성보다 최종 결과물의 정확성과 유용성을 더 중요하게 평가할 수 있음을 시사한다. 통계적으로 유의미한 주요 효과로는, AI와의 상호작용이 원활할수록 오히려 프라이버시 민감성이 증가하는 역설적 관계가 확인되었다. 또한, 임상 경력이 많은 전문가일수록 블랙박스 문제에 덜 민감하게 반응하는 경향을 보였다. 본 연구 결과는 신뢰할 수 있는 의료 AI 시스템 설계 시, 설명가능성이라는 단일한 접근을 넘어 사용자의 전문성 수준과 데이터 프라이버시 보호를 함께 고려하는 다각적 전략이 필수적임을 강조한다.

목차

요약
Abstract
Ⅰ. 서론
Ⅱ. 선행연구
1. 이론적 배경
2. AI 에이전트의 사회적 상호작용과 사용자 인식
3. AI 에이전트의 기능적 상호작용과 신뢰 형성
4. AI 에이전트의 진화와 의료 서비스 적용
Ⅲ. 연구방법
1.연구 질문 및 모델
2. 연구 대상 및 표본
Ⅳ. 데이터 수집 및 분석
1. 데이터 수집
2. 데이터 분석 결과
Ⅴ. 논의
Ⅵ. 결론
References

키워드

저자

• 이명호 [ Yi, Myongho | 정회원, 상명대학교 문헌정보학과 교수 ] 제1저자

참고문헌

발행기관

간행물

표지보기 관심저널 등록

• 간행물명

  The Journal of the Convergence on Culture Technology (JCCT) [문화기술의 융합]

• 간기

  격월간

• pISSN

  2384-0358

• eISSN

  2384-0366

• 수록기간

  2015~2026

• 등재여부

  KCI 등재

• 십진분류

  KDC 600 DDC 700