Earticle

초록

영어

The most significant weakness of AI technology is the lack of explainability of the results obtained by AI. The technology that has emerged to compensate for this weakness of traditional AI is eXplainable AI (XAI). XAI is attracting great attention in applications where the reliability of inference results is important, such as healthcare, defense, law, and has recently been judged to be indispensable for military applications. The U.S. Defense Advanced Research Projects Agency (DARPA) is actively promoting the application of XAI in the military field by operating the XAI Program, in which 11 universities and research institutes such as UC Berkeley and Carnegie Mellon University participate, but in the case of the Korean military, research on XAI development is underdeveloped due to the focus on developing AI capabilities. In this paper, we also examine the concept and methodology of XAI and propose a method for applying XAI technology that can be applied to AI technology for each battlefield functions. The concept and recent technology of XAI are summarized, and the concept of XAI operation and application scenario of AI that is expected to be applied to the weapon system for each battlefield function is presented.

한국어

AI 기술이 가진 가장 대표적인 취약점은 AI가 도출한 결과에 대한 설명가능함(Explainable)의 부족이다. 이런 전통적인 AI의 취약점을 보완하기 위해 등장한 기술이 ‘설명가능한 AI(eXplainable AI, XAI)로 XAI는 의료, 국방, 법과 질서 등과 같 은 추론결과의 신뢰성이 중요한 응용 분야에서 큰 관심을 끌고 있으며, 특히 최근 군사 응용 AI에 있어서는 필수 불가결한 요소로 판단되고 있다. 미 국방연구원(DARPA)의 경우 UC Berkeley, Carnegie Mellon University 등 11개의 대학 및 연 구소가 참여하는 XAI Program을 운용하며 군사 분야의 XAI 적용을 적극적으로 추진하고 있지만, 우리 군의 경우 AI 기능 개발에 집중하는 상황으로 XAI 개발에 관한 연구는 미진한 상황이다. 특히, 민간에서 개발된 다양한 XAI 기술을 군사적 어 떻게 접목하고 응용할 것인가에 대한 개념과 시나리오가 부족한 실정이다. 이에 본 논문에서는 군사적 XAI(Military-XAI, MXAI)의 개념과 방법론을 살펴보고 감시정찰, 지휘통제, 기동, 화력 등 전장기능별 AI 기술에 적용할 수 있는 XAI 기술적용 시나리오를 제시하여 산학연에서 향후 MXAI를 연구할 때 통찰과 이정표를 제시하고자 하였다.

목차

ABSTRACT
초록
Ⅰ. 서론
Ⅱ. 설명가능한 인공지능(XAI)의 개념 및 방법론
2.1. XAI 개념
2.2. XAI 방법론
Ⅲ. 기존 AI 방법론의 설명가능함 분석
Ⅳ. XAI 방법론의 군사적 적용 시나리오
4.1. 감시정찰 분야
4.2. 기동 분야
4.3. 화력 분야
4.4. 지휘통제 분야
Ⅴ. 결론
참고문헌

키워드

저자

• 최근하 [ Keun-Ha Choi | 한국과학기술원(KAIST) 연구교수 ] 주저자/교신저자
• 정재원 [ Jeong Jaewon | 한국과학기술원(KAIST) 연구교수 ]
• 이우신 [ Woosin Lee | 광운대학교 소프트웨어융합대학 컴퓨터정보공학부 부교수 ]
• 안종철 [ Jongchul Ahn | 한화시스템 수석연구원 ]
• 이미경 [ Mikyoung Lee | 한화시스템 수석연구원 ]

참고문헌

발행기관

간행물

표지보기 관심저널 등록

• 간행물명

  한국방위산업학회지 [Journal of the Korean Association of Defense Industry Studies]

• 간기

  연3회

• pISSN

  1738-6144

• 수록기간

  2000~2025

• 등재여부

  KCI 등재

• 십진분류

  KDC 390 DDC 355