Earticle

초록

영어

With the healthcare paradigm shifting from disease treatment to prevention and personalized care, demand for AI-based medical systems is rapidly increasing. However, existing Large Language Models (LLMs) can generate false information as factual, creating hallucination risks that may threaten patient safety in medical applications. This study builds a domain-specific small language model (sLLM) from verified medical data, detects hallucination candidates using token-level uncertainty and a proxy-model consistency check, and selectively corrects only the cases diagnosed as internal factual knowledge errors, as distinguished from false-premise sycophancy, through localized Knowledge Editing of FFN layers. Under identical sLLM and RAG conditions, editing achieved a correction success rate of 92.5% while preserving 95.6% of non-target knowledge.

한국어

최근 헬스케어 패러다임이 질병 치료 중심에서 예방 및 개인 맞춤형 치료로 변화함에 따라 인공지능 기반 의료 시스템에 대한 수요가 급증하고 있다. 기존의 대형 언어 모델(LLM)은 뛰어난 성능을 보이나, 의료 도메인 적용 시 거짓 정보를 사실처럼 생성하는 환각(Hallucination) 현상으로 인해 환자의 안전을 위협할 수 있는 치명적인 한계를 지닌다. 본 연구는 검증된 의료 데이터로 도메인 특화 소형 언어 모델(sLLM)을 구축하고, 토큰 불확실성과 프록시 모델 검증으로 환각 후보를 탐지한 뒤, 거짓 전제 동조와 구분되는 모델 내부의 사실 지식 오류만을 선별하여 FFN 국소 지식 편집(Knowledge Editing)으로 교정하는 방법을 제안한다. 동일한 sLLM과 RAG 조건에서 편집 유무를 비교한 결과 오류 정정 성공률 92.5%, 비대상 지식 보존율 95.6%를 확인하였다.

목차

요약
Abstract
Ⅰ. 서론
Ⅱ. 관련연구
2.1 LLM 기반 Agentic AI
2.2 의료 도메인 AI 활용
2.3 Agentic AI 환각 현상
2.4 Knowledge Editing 연구
Ⅲ. Knowledge Editing 기술을 활용한 대화형 의료상담 에이전트
3.1 프라이버시 강화 의료상담 도메인 특화 sLLM 개발
3.2 불확실성 기반 환각 탐지 및 편집 대상 선별
3.3 인과 추적 기반 FFN 국소 지식 편집
3.4 RAG 시스템 및 MLOps 운영
Ⅳ. 실험 방법 및 결과
4.1 데이터 구성 및 실험 설정
4.2 비교 조건 및 평가 지표
4.3 실험 결과
Ⅴ. 결론
REFERENCES

키워드

저자

• 박동길 [ Dong-Gil Park | 호서대학교 벤처대학원 융합공학과 박사과정 ]
• 김병삼 [ Byeong-Sam Kim | 호서대학교 미래자동차공학과 교수 ] Corresponding Author

참고문헌

발행기관

간행물

표지보기 관심저널 등록

• 간행물명

  차세대융합기술학회논문지 [The Journal of Next-generation Convergence Technology Association]

• 간기

  월간

• pISSN

  2508-8270

• 수록기간

  2017~2026

• 등재여부

  KCI 등재

• 십진분류

  KDC 506 DDC 606