Earticle

초록

영어

This study proposes a systematic framework for defining and evaluating the quality attributes necessary for medical AI systems to gain trust and be practically used. Based on the ISO/IEC 25010 international standard for software quality, four key quality characteristics— functional suitability, time efficiency, usability, and interpretability—were selected. Quantitative and qualitative metrics were designed to assess these attributes. Furthermore, an explainable AI technique using SHAP was integrated into the prediction system to visually present the basis of predictions and enhance user trust. Experimental results showed a prediction accuracy of 91.2%, interpretation agreement rate of 82%, and user satisfaction score of 4.5, demonstrating a system that satisfies both quality and explainability requirements. This study is expected to provide a foundation for future SaMD certification and clinical application of medical AI systems.

한국어

본 연구는 의료 분야에서의 인공지능 시스템이 신뢰받고 실제로 사용되기 위해 필요한 품질 요소를 정의하고, 이를 평가할 수 있는 체계적인 프레임워크를 제시한다. 국제 표준 ISO/IEC 25010의 소프트웨어 품질 모델을 기반으로 기능 적합성, 시간 효율성, 사용성, 해석 가능성 등 네 가지 핵심 품질 특성을 선정하였으며, 이들을 정량 적·정성적으로 평가할 수 있는 지표를 설계하였다. 또한 SHAP 기반 설명 가능 인공지능 기법을 예측 시스템에 통합함으로써, 예측 근거를 시각적으로 제공하고 사용자 신뢰도를 향상시켰다. 실험 결과, 예측 정확도 91.2%, 해 석 일치율 82%, 사용자 만족도 4.5점을 기록하며 품질과 해석 가능성을 동시에 충족하는 시스템을 구현하였다. 본 연구는 향후 의료 인공지능의 SaMD 인증과 실질적 임상 적용을 위한 기반을 제공할 수 있을 것으로 기대된다.

목차

요약
Abstract
1. 서론
1.1 연구의 배경 및 필요성
1.2 연구 목적
2. 이론적 배경
2.1 ISO/IEC 25010 품질 모델
2.2 설명 가능 인공지능(XAI)
2.3 SHAP 해석 기법
2.4 선행연구와의 비교 고찰
3. 설계 및 구현
3.1 해석 모듈 구조 설계
3.2 품질 특성별 평가 지표 정의
3.3 실시간 품질 대시보드 구현
4. 연구범위 / 실험 및 품질 평가 결과
4.1 연구 범위
4.2 기능 적합성 분석
4.3 시간 효율성 측정
4.4 해석 가능성 평가
4.5 사용성 평가
5 결론 및 향후 연구
5.1 결론
5.2 향후 연구
REFERENCES

키워드

의료인공지능 ISO/IEC 25010 소프트웨어품질평가 SHAP 임상인공지능시스템 SaMD Medical AI ISO/IEC 25010 Software Quality Evaluation SHAP Clinical AI Systems SaMD

저자

• 조석희 [ Seok-Hee Cho | 국립공주대학교 컴퓨터공학과 박사과정 ]
• 김재웅 [ Jae-Woong Kim | 국립공주대학교 소프트웨어학과 교수 ] Corresponding Author

참고문헌

발행기관

간행물