Earticle

AI를 활용한 사이버 공격이 빠르게 고도화되면서, 공격 탐지 이후 어떤 대응방책(Course of Action, COA)을 얼마나 신속하고 효과적으로 선택하느냐가 방어 성과를 좌우하게 되었다. 본 연구는 인터넷 접점의 Frontier Red AI와 내부 Local Blue AI Team 간 모의교전을 통해 탐지 결과를 복수 COA의 생성·평가·순위화로 연결하는 사이버 방어 의사결정 지원 프레임워크를 제안한다. Red AI는 공격 전에 목표 자산, 공격경로, ATT&CK 기술, 예상 침해지표와 성공조건을 포함한 정답지를 제출하고, 독립 Referee AI는 이를 Cyber Battle Range의 실측 증거와 대조하여 탐지·대응 결과를 검증한다. 각 COA는 임무점수(Mission Score, MS), 서비스 연속성(Service Continuity, SC), 잔여위험(Residual Risk, RR)으로 평가하고, 세 지표를 결합한 COA Ranking Score(CRS)로 우선순위를 제시한다. 실험 결과, LoRA로 학습한 Multi-LLM 구조는 탐지율 91.8±1.0%, ATT&CK 매핑 정확도 88.9±1.3%, MS 89.8±1.4, FPR 5.9±0.8%를 기록하였다. 또한 5회전의 적응형 연속 교전을 독립적으로 5회 수행한 결과, CRS에 포함되지 않는 실측지표인 공격 성공률(ASR)은 43.2%에서 21.8%로 감소하고 핵심자산 보호율(CAPR)은 78.6%에서 93.1%로 증가하였다. 이러한 결과는 제안 프레임워크가 AI 기반 모의교전 결과를 정량적인 COA 비교와 운용자 승인 절차로 연결하여 사이버 방어 의사결정을 지원할 수 있음을 보여준다.

As AI-assisted cyber attacks become faster and more complex, the ability to select an effective course of action (COA) after detection has become increasingly important to defensive outcomes. This study proposes a cyber-defense decision-support framework in which a Frontier Red AI and a role-separated Local Blue AI Team engage in multi-round wargaming, linking detection results to the generation, evaluation, and ranking of multiple COAs. Before execution, the Red AI submits a fixed ground-truth package containing the target asset, attack path, ATT&CK techniques, expected indicators of compromise, and success conditions. An independent Referee AI then validates the Blue AI outputs against this package and evidence measured in a Cyber Battle Range. Each COA is evaluated using Mission Score (MS), Service Continuity (SC), and Residual Risk (RR), which are combined into a COA Ranking Score (CRS) for prioritization. The LoRA-trained Multi-LLM configuration achieved a detection rate of 91.8±1.0%, ATT&CK mapping accuracy of 88.9±1.3%, an MS of 89.8±1.4, and an FPR of 5.9±0.8%. Across five independent trials of a five-round adaptive engagement, Attack Success Rate (ASR), an outcome metric not included in CRS, decreased from 43.2% to 21.8%, while Critical Asset Protection Rate (CAPR) increased from 78.6% to 93.1%. These results indicate that the proposed framework can connect AI-vs-AI cyber wargaming outcomes to quantitative COA comparison and operational decision support.

최근 국방망을 겨냥한 사이버 위협이 증가함에 따라 보안 점검과 보고의 신속성과 신뢰성이 중요해지고 있다. 그러나 현행 국방 보안 진단 보고 체계는 수작업 의존으로 인해 보고 지연, 품질 편차, 규격 대응 미흡 등의 한계를 보인다. 특히 폐쇄망 환경에서는 SaaS형 인공지능을 활용하기 어려워 민간 자동화 연구를 직접 적용하기 어렵다. 본 연구는 이러한 문제를 해결하 기 위해 로컬 LLM 기반 보안 진단 보고 자동화 체계를 제안한다. 제안된 체계는 입력, 전처리, LLM 분석, 자동 보고, 이력 관리 모듈로 구성되어, 다양한 진단 결과를 국제 표준(CVE, CWE) 및 국방 규격(STIG, CC 인증 등)에 자동 매핑하고, 실무 자·지휘관·정책기관 맞춤형 보고서를 생성한다. 적용 시나리오로 전술통신체계 취약점 진단, 무기체계 소프트웨어 보안성 검 증를 제시하였으며, 이를 통해 보고 품질 향상, 인력 절감, 규제 대응 효율화, 지휘결심 지원 강화 등 실질적 효과를 확인하였 다. 또한 국방 특화 데이터 부족, AI 신뢰성 검증, 폐쇄망 성능 제약은 향후 연구 과제로 제시된다.

As cyber threats against defense networks increase, the need for fast and reliable security reporting is growing. However, the current defense reporting system relies on manual processes, causing delays, inconsistent quality, and limited compliance with standards. In closed-network environments, SaaS-based AI solutions cannot be applied, limiting direct adoption of civilian research. This study proposes a local LLM-based automated reporting system consisting of input, preprocessing, LLM analysis, reporting, and history management modules. It maps diagnostic results to international standards (CVE, CWE) and defense regulations (STIG, CC), while generating reports tailored for operators, commanders, and policymakers. Application scenarios—tactical communication systems, weapon system software verification, and cyber command-and-control—demonstrate improved report quality, reduced manpower, efficient compliance, and faster decision support. Challenges such as limited defense-specific datasets, AI reliability, and performance constraints remain for future research.

대규모 언어모델(LLM)을 업무에 활용하는 과정에서 사용자가 입력한 프롬프트에 개인정보나 내부 식별자가 포함될 경우, 해당 정보가 외부 LLM 서비스로 전송될 가능성이 있다. 본 연구에서는 이러한 문제를 해결하기 위해 외부 전송 전에 기밀 정보를 별도의 토큰으로 치환하고, 외부 LLM의 응답을 처리하는 과정에서 이를 원문으로 복원하는 가역 마스킹 기반의 AI 보안 게이트웨이를 설계하고 구현하였다. 제안 시스템에는 정규식 기반 마스킹, 로컬 LLM을 이용한 보안 판정 및 마스킹, 입력정규화, fail-closed policy를 적용하였다. 총 1,300건의 평가 데이터(한국어 660건, 영어 640건)를 사용하여 성능을 평가한 결과, 설계 범위 내에서 제안 시스템의 엄격 마스킹 성공률은 50.4%(282/559)로 나타났다. 이는 정규식 단독 방식의 30.9%(173/559)보다 19.5%p 높은 수치이다. 설계 범위 559건 전체를 분모로 한 잔존 유출률은 정규식 단독 방식의 68.3%(382/559)에서 제안시스템의 25.4%(142/559)로 감소하였다. 또한 정규식 단독 방식에서 마스킹에 성공한 사례가 없었던 262건의 회피 공격 입력 중 제안 시스템은 71건(27.1%)을 마스킹하였다. 입력 정규화의 효과를 확인하기 위해 L1(기호 삽입) 및 L2(인코딩) 방식의 회피 입력 146건을 평가한 결과, 엄격 마스킹 성공률은 OFF 23.3%에서 ON 45.2%로 증가하였다. 반면 의미 재구성 방식의 L3 입력 116건에서는 OFF와 ON 모두 4.3%(5/116)로 관측 변화가 없었다. Phase 3 평가에서는 처리 실패(ERROR)가 66/300(22.0%), 전송 차단(BLOCK)과 ERROR를 합친 가용성 손실이 121/300(40.3%)이었다. 한편 설계 범위에서 실제 외부 전송된 424건 중 142건(33.5%)에는 정답 기밀 문자열이 남았으며, 이 142건 중 92건(64.8%)은 전송 허용(ALLOW)으로 분류된 탐지 실패였다. 이러한 결과는 정규식, 로컬 LLM, 입력 정규화의 기여와 한계가 회피 유형에 따라 다르며, 하이브리드 결합이 모든 입력 구간에서 개선을 제공하지는 않음을 보여 준다. 따라서 AI 보안 게이트웨이의 평가에서는 엄격 마스킹 성공률, 실제 전송본의 잔존 유출률과 가용성 비용을 함께 고려해야 한다.

Workplace prompts sent to external large language models (LLMs) may expose personal information and internal identifiers. We designed and implemented a reversible-masking AI security gateway combining regular expressions, local LLM judgment and masking, input normalization, and fail-closed transmission control. It replaces confidential strings with request-bound tokens before transmission and restores them during response processing. We evaluated 1,300 inputs: 660 Korean and 640 English. Among 559 in-scope masking inputs, strict masking success was 50.4% (282/559), versus 30.9% (173/559) for regular expressions alone, a 19.5 percentage-point difference. Across the same 559 inputs, residual leakage decreased from 68.3% (382/559) to 25.4% (142/559). For 262 evasion inputs, strict success was 0/262 for the baseline and 71/262 (27.1%) for the gateway. Normalization increased success on 146 symbol-insertion (L1) and encoding (L2) inputs rom 23.3% with OFF to 45.2% with ON, while semantic-reconstruction (L3) inputs remained 4.3% (5/116) under both conditions. In the 559-input scope, strict success was 60.8% for English and 39.2% for Korean. In Phase 3, processing failures were 66/300 (22.0%), and blocking plus failures caused availability loss of 121/300 (40.3%). Separately, 142 of 424 transmitted in-scope inputs (33.5%) retained reference confidential strings; 92 of these 142 cases (64.8%) were classified ALLOW. The components contributed differently across evasion types, and hybridization did not improve every input category. Gateway evaluation should jointly consider strict masking success, residual leakage in transmitted content, and availability costs.

This study addresses the limitations of traditional Failure Modes and Effects Analysis (FMEA), which heavily relies on expert judgment and lacks the ability to effectively incorporate unstructured failure history data such as warranty claims and maintenance records into the design stage. To overcome these challenges, we propose an automated FMEA framework based on a Retrieval-Augmented Generation (RAG) architecture integrated with a Local Large Language Model (LLM) in a secure, locally managed environment. The proposed system stores claim and test data in a vector database and leverages the LLM to retrieve and analyze relevant information, enabling automatic extraction of new failure modes and dynamic updates to FMEA documents. Additionally, the system recalculates Risk Priority Number (RPN) by adjusting severity, occurrence, and detection ratings when recurring failures are detected. To improve response quality, we applied prompt engineering and optimized chunking parameters during data retrieval. This research demonstrates the feasibility of achieving a life cycle-integrated quality enhancement framework throughout the product lifecycle while ensuring data security.

生成AIの急速な普及は外国語教育分野において新たな教育モデルの構築を急務としている。しかし、現状の日本語教育におけるAI活用は表層的な利用に留まり、人文系専攻者に求められる批判的リテラシーや学習者主導性の育成には至っていない。先行研究においてもAI固有の限界を教育的に活用し、学習者を受動的な消費者から能動的な創造者へと転換させる体系的なフレームワークが欠如している。 本研究は、こうした問題意識に基づき、「批判的AIリテラシー」と「学習者主導性」の育成を目的とした新たな日本語教育フレームワークを提案する。本モデルは「脱構築・批判」「適用・制御」「創造・省察」の3段階で構成され、AIの構造的欠陥の分析、Ollamaを用いたローカルLLMの構築と制御、RAG技術を用いたペルソナベース・チャットボットの制作を実践する。 大学の授業における実践の結果、学習者は技術的不安を克服し、受動的な消費者から能動的な設計者へと役割を転換させた。分析の結果、高度なプロンプトエンジニアリング能力とAIへの深く批判的な理解が育成されたことが確認された。本研究は、AIの弱点を教育的強みとして転換する体系的なモデルを提示し、AIを脱構築・制御・創造する力を通じて、人文系学習者に不可欠な批判的思考能力と主体性を育成できることを実証した。

The rapid integration of generative AI into education necessitates new pedagogical models. However, current applications in Japanese language education often remain superficial, failing to cultivate the critical literacy and autonomy required for humanities majors. Existing research lacks a systematic framework that addresses AI's limitations while empowering learners to transition from passive consumers to active creators. This study proposes a novel framework designed to foster Critical AI Literacy and Learner Autonomy. Structured in three stages?“Deconstruction & Critique,” “Application & Control,” and “Creation & Reflection”?the framework involves analyzing AI flaws, controlling local LLMs using Ollama, and creating persona-based chatbots using RAG techniques. Application in a university course demonstrated a significant transformation in learners, shifting their role to active designers. Analysis confirmed the cultivation of sophisticated prompt engineering skills and a critical understanding of AI. This research contributes a replicable model leveraging AI's weaknesses as strengths, demonstrating that empowering learners to deconstruct and create with AI fosters the high-level critical thinking essential for humanities students in the AI era.