Earticle

초록

영어

This study proposes the Cognitive Bias Reduction Protocol(CBRP), a procedural framework for identifying and mitigating cognitive bias in AI red team evaluation. Existing AI safety evaluation frameworks are effective at testing prompt injection, harmful output, data leakage, and hallucination, but they pay comparatively less attention to how human evaluators' confirmation bias, anchoring, and groupthink distort scoring and prioritization. According to this problem setting, CBRP structures bias control into five stages: scenario design, independent scoring, multi-model cross-evaluation, disagreement review, and post-hoc calibration. The paper also positions the proposed protocol against prior frameworks such as the OWASP AI Testing Guide, AISI-style safety evaluation guidance, and HarmBench. This study conducted an exploratory quasi-experiment across healthcare, finance, and hiring using 15 human evaluators and multiple LLM evaluators. Rather than claiming definitive performance, the quantitative findings serve as preliminary evidence of applicability; by detailing our experimental conditions, we ensure reproducibility and extend AI safety evaluation to include cognitive error management.

한국어

본 연구는 AI 레드팀 평가 과정에서 인간 평가자와 자동화 평가기가 보이는 인지 편향을 식별·완화하기 위한 절차적 프로토콜인 CBRP(Cognitive Bias Reduction Protocol)를 제안한다. 기존 AI 안전성 평가 프레임워크는 프롬프트 인젝션, 데이터 유출, 유해성·환각 등 기술적 취약점 탐지에는 강점을 보이지만, 평가자의 확증 편향·정박 효과·집단 사고가 결과 해석과 우선순위화에 미치는 영향은 상대적으로 충분히 다루지 못했다. 이에 본 연구는 편향 발생 지점을 ① 시나리오 설계, ② 독립 평가, ③ 다중 모델 교차채점, ④ 불일치 검토, ⑤ 사후 보정의 다섯 단계로 구조화하고, 각 단계의 입력·처리·출력을 명시한 CBRP를 설계하였다. 또한 OWASP AI Testing Guide, AISI계열 안전성 평가 지침, HarmBench 등 기존 프레임워크 및 벤치마크와의 비교를 통해 제안 방식의 위치를 체계적으로 정리하였다. 실험은 의료·금융·채용 도메인에서 15명의 인간 평가자와 복수의 LLM 평가기를 활용한 탐색적 준실험으로 설계하였다. 본문의 정량 결과는 모델의 절대적 성능을 입증하기보다, CBRP의 적용 가능성을 확인하는 기초 자료로서 의미를 부여하였으며, 모델 버전·프롬프트 조건·온도·가중치 보정 방식·평가 척도를 명시함으로써 재현 가능성을 높이고자 하였다. 본 연구의 핵심 의의는 AI 안전성 논의를 기술적 취약점 진단 수준을 넘어, 인간과 모델 간 상호작용에서 비롯되는 인지적 편향 및 오류 관리 영역으로 넓혔다는 데 있다.

목차

요약
Abstract
1. 서론
2. 관련연구
2.1 인지 편향의 개념 및 유형
2.2 AI 안전성 평가에서 나타나는 주요 편향
3. 기존 AI 안전성 평가 프레임워크와 제안프로토콜 비교
3.1 기존 AI 안전 평가 프레임워크
3.2 CBRP의 단계별 구조
3.3 CBRP 적용 예시와 해석상 유의점
4. 실험 설계 및 결과 분석
4.1 실험 설계
4.2 평가 지표 및 데이터셋
4.3 실험 결과 및 분석
5. 결론
Acknowledgement
참고문헌
부록

키워드

저자

• 박영식 [ YeongSik Pak | 보안정보기술 대표이사 ]
• 윤종필 [ JongPil Youn | 플렉토리(주) 대표이사 ]
• 정성하 [ Sungha Jeong | 조선대학교 과학기술융합학과 박사과정 ] 교신저자

참고문헌

발행기관

간행물

표지보기 관심저널 등록

• 간행물명

  한국차세대컴퓨팅학회 논문지 [THE JOURNAL OF KOREAN INSTITUTE OF NEXT GENERATION COMPUTING]

• 간기

  격월간

• pISSN

  1975-681X

• 수록기간

  2005~2026

• 등재여부

  KCI 등재

• 십진분류

  KDC 566 DDC 004