Earticle

초록

영어

Workplace prompts sent to external large language models (LLMs) may expose personal information and internal identifiers. We designed and implemented a reversible-masking AI security gateway combining regular expressions, local LLM judgment and masking, input normalization, and fail-closed transmission control. It replaces confidential strings with request-bound tokens before transmission and restores them during response processing. We evaluated 1,300 inputs: 660 Korean and 640 English. Among 559 in-scope masking inputs, strict masking success was 50.4% (282/559), versus 30.9% (173/559) for regular expressions alone, a 19.5 percentage-point difference. Across the same 559 inputs, residual leakage decreased from 68.3% (382/559) to 25.4% (142/559). For 262 evasion inputs, strict success was 0/262 for the baseline and 71/262 (27.1%) for the gateway. Normalization increased success on 146 symbol-insertion (L1) and encoding (L2) inputs rom 23.3% with OFF to 45.2% with ON, while semantic-reconstruction (L3) inputs remained 4.3% (5/116) under both conditions. In the 559-input scope, strict success was 60.8% for English and 39.2% for Korean. In Phase 3, processing failures were 66/300 (22.0%), and blocking plus failures caused availability loss of 121/300 (40.3%). Separately, 142 of 424 transmitted in-scope inputs (33.5%) retained reference confidential strings; 92 of these 142 cases (64.8%) were classified ALLOW. The components contributed differently across evasion types, and hybridization did not improve every input category. Gateway evaluation should jointly consider strict masking success, residual leakage in transmitted content, and availability costs.

한국어

대규모 언어모델(LLM)을 업무에 활용하는 과정에서 사용자가 입력한 프롬프트에 개인정보나 내부 식별자가 포함될 경우, 해당 정보가 외부 LLM 서비스로 전송될 가능성이 있다. 본 연구에서는 이러한 문제를 해결하기 위해 외부 전송 전에 기밀 정보를 별도의 토큰으로 치환하고, 외부 LLM의 응답을 처리하는 과정에서 이를 원문으로 복원하는 가역 마스킹 기반의 AI 보안 게이트웨이를 설계하고 구현하였다. 제안 시스템에는 정규식 기반 마스킹, 로컬 LLM을 이용한 보안 판정 및 마스킹, 입력정규화, fail-closed policy를 적용하였다. 총 1,300건의 평가 데이터(한국어 660건, 영어 640건)를 사용하여 성능을 평가한 결과, 설계 범위 내에서 제안 시스템의 엄격 마스킹 성공률은 50.4%(282/559)로 나타났다. 이는 정규식 단독 방식의 30.9%(173/559)보다 19.5%p 높은 수치이다. 설계 범위 559건 전체를 분모로 한 잔존 유출률은 정규식 단독 방식의 68.3%(382/559)에서 제안시스템의 25.4%(142/559)로 감소하였다. 또한 정규식 단독 방식에서 마스킹에 성공한 사례가 없었던 262건의 회피 공격 입력 중 제안 시스템은 71건(27.1%)을 마스킹하였다. 입력 정규화의 효과를 확인하기 위해 L1(기호 삽입) 및 L2(인코딩) 방식의 회피 입력 146건을 평가한 결과, 엄격 마스킹 성공률은 OFF 23.3%에서 ON 45.2%로 증가하였다. 반면 의미 재구성 방식의 L3 입력 116건에서는 OFF와 ON 모두 4.3%(5/116)로 관측 변화가 없었다. Phase 3 평가에서는 처리 실패(ERROR)가 66/300(22.0%), 전송 차단(BLOCK)과 ERROR를 합친 가용성 손실이 121/300(40.3%)이었다. 한편 설계 범위에서 실제 외부 전송된 424건 중 142건(33.5%)에는 정답 기밀 문자열이 남았으며, 이 142건 중 92건(64.8%)은 전송 허용(ALLOW)으로 분류된 탐지 실패였다. 이러한 결과는 정규식, 로컬 LLM, 입력 정규화의 기여와 한계가 회피 유형에 따라 다르며, 하이브리드 결합이 모든 입력 구간에서 개선을 제공하지는 않음을 보여 준다. 따라서 AI 보안 게이트웨이의 평가에서는 엄격 마스킹 성공률, 실제 전송본의 잔존 유출률과 가용성 비용을 함께 고려해야 한다.

목차

요약
ABSTRACT
1. 서론
2. 관련 연구
2.1 개인정보·기밀 탐지
2.2 프라이버시 게이트웨이와 가역 마스킹
2.3 프롬프트 인젝션 방어
2.4 관련 연구 비교
3. 위협 모델
3.1 보호 대상
3.2 행위자와 신뢰 가정
3.3 신뢰 경계
3.4 보안 요구사항(SR1–SR4)
3.5 범위 밖
4. 시스템 설계
4.1 설계 목표
4.2 5단계 파이프라인
4.3 입력 정규화와 원문 구간 매핑
4.4 요청 바인딩 토큰
4.5 안전 우선 정책
5. 구현
5.1 구현 스택과 데이터 수명주기
5.2 실험 실행 설정
6. 평가 방법
6.1 데이터 구성 및 분석 분모
6.2 정답 라벨링
6.3 라벨 신뢰성 검증
6.4 실험 시나리오
6.5 평가 지표와 통계
7. 실험 결과 및 분석
7.1 E1: 규칙 기반 기준선과 제안 방식 비교
7.2 DIRECT 구간의 회귀
7.3 마스킹 실패의 유형 분해
7.4 구성요소별 매핑 기여
7.5 E2: 입력 정규화 효과(OFF 대 ON 대응 비교)
7.6 언어별 결과
7.7 오탐과 안전 우선 비용
7.8 v4.5 사후 오류 처리 민감도 분석
7.9 공개 도구와의 범위 대조
7.10 SR3 요구사항의 결정론적 검증
8. 논의 및 한계
8.1 정규식, 정규화, 로컬 LLM의 역할
8.2 인코딩 회피의 함의
8.3 안전성과 가용성의 교환
8.4 오탐과 과잉 차단
8.5 범위 밖 유형
8.6 가역성과 개인정보 보호
8.7 적응형 공격자와 운용 범위
8.8 내적 타당성: 프롬프트 예시의 사전 노출
8.9 연구의 한계
9. 결론
참고문헌

키워드

저자

• 박규성 [ GyuSeong Park | 건양대학교 사이버보안학과 학사과정 ] 주저자
• 김선효 [ SeonHyo Kim | 건양대학교 사이버보안학과 학사과정 ] 공동저자
• 강우구 [ WooGu Kang | 건양대학교 사이버보안학과 학사과정 ] 공동저자
• 이충원 [ ChoongWon Lee | 건양대학교 사이버보안학과 학사과정 ] 공동저자
• 조한석 [ Hansek Cho | 건양대학교 사이버보안학과 조교수 ] 공동저자
• 홍준기 [ Junku Hong | 건양대학교 군사과학연구소장 ] 공동저자
• 정승욱 [ SeungWook Jung | 건양대학교 사이버보안학과 교수 ] 교신저자

참고문헌

발행기관

간행물

표지보기 관심저널 등록

• 간행물명

  융합보안논문지 [Jouranl of Information and Security]

• 간기

  연5회

• pISSN

  1598-7329

• 수록기간

  2001~2026

• 등재여부

  KCI 등재

• 십진분류

  KDC 005 DDC 005