근거정박 미세조정을 통한 한국어 피싱 문자 탐지의 분포 이동 강건성 분석 연구
An Empirical Study on Distribution-Shift Robustness in Korean Phishing SMS Detection through Evidence-Anchored Fine-Tuning
Korean phishing SMS messages frequently imitate legitimate notices such as public-agency alerts, financial authentication requests, delivery updates, and payment confirmations. This makes detection based on surface cues such as URLs, institutional names, or authentication keywords vulnerable to distribution shift. This study examines whether high in-distribution performance can collapse under new out-of-distribution phishing variants and evaluates evidence-anchored fine-tuning as a way to recover phishing worst-group performance. A KORPhish clean subset of 896 messages was split with split_group control to reduce leakage. Using Qwen2.5-3B with QLoRA, the proposed RA-ERM model was trained on 730 original training messages and 4,030 verified augmented samples to jointly learn the label, evidence_span, social-engineering tactic, relationship type, requested action, and cultural lever. Baseline models showed a 31-37 percentage-point drop on the new OOD set. On the clean held-out set, RA-ERM improved phishing group accuracy from 0.569 for LC-ERM to 0.922, while also achieving 0.950 accuracy in cross-lingual smishing evaluation. These results indicate that robust Korean phishing SMS detection should be assessed not only by average accuracy but also by phishing worst-group recovery, evidence-grounded outputs, and structured error analysis.
한국어
한국어 피싱 문자는 공공기관 안내, 금융 인증, 배송·결제 알림처럼 정상 문자와 유사한 형식을 모방하므로 URL, 기관명, 인증 키워드 같은 표면 단서만으로 안정적 탐지가 어렵다. 본 연구는 표면 단서 의존성이 분포 이동 조건에서 성능 붕괴로 이어지는지를 확인하고, 원문 근거와 사회공학 전술을 함께 학습하는 근거정박 구조화 학습과 검증 증강 데이터를 결합한 RA-ERM의 성능을 평가하였다. KORPhish clean subset 896건을 split_group 기반으로 분할하고, 원본 train 730건과 검증 증강 4,030건을 활용해 Qwen2.5-3B 기반 RA-ERM을 학습하였다. 기준선은 신규 OOD에서 31~37%p 성능 하락을 보였고, clean held-out에서 RA-ERM은 LC-ERM 대비 피싱 그룹 정확도를 0.569에서 0.922로 높였다. 교차언어 평가에서도 RA-ERM은 0.950의 정확도를 기록하였다. 결과는 평균 정확도보다 피싱 최악그룹 성능과 근거 기반 오류 분석이 한국어 피싱 탐지의 강건성을 판단하는 핵심 기준임을 보여준다.
목차
요약 ABSTRACT 1. 서론 1.1 한국어 피싱 문자 탐지의 표면 단서 의존성 문제 1.2 연구 목적과 연구 질문 2. 관련 연구 2.1 피싱 탐지와 LLM 기반 접근 2.2 Shortcut Learning과 분포 이동 2.3 근거 기반 학습과 최악그룹 평가 3. 연구설계 및 실험방법 3.1 KORPhish 데이터셋과 clean held-out 평가구성 3.2 근거정박 미세조정과 비교 모델 3.3 평가 지표와 분포 이동 평가 설계 4. 실험 결과 및 분석 4.1 기준 모델의 신규 OOD 성능 하락 4.2 RA-ERM의 clean held-out 최악그룹 회복결과 4.3 교차언어 OOD 평가 결과 4.4 결과 해석과 분포강건 학습 민감성 5. 결론 참고문헌