년 - 년
소형 언어 모델 모듈을 활용한 생성형 AI 입력 프롬프트의 악성 행위 차단에 관한 연구
[Kisti 연계] 한국정보처리학회 정보처리학회논문지 Vol.14 No.12 2025 pp.1044-1050
※ 협약을 통해 무료로 제공되는 자료로, 원문이용 방식은 연계기관의 정책을 따르고 있습니다.
대규모 언어모델(LLM)은 검색·코딩·에이전트 등에서 유용하지만, 입력 프롬프트가 거동을 직접 좌우해 프롬프트 인젝션(직·간접), 탈옥(jailbreak), 형식·유니코드 우회, 리소스 고갈, 툴/플러그인 악용에 취약하다. 본 연구는 경량 전역 분류기와 위협별 소형 언어 모델(SLM) 모듈을 결합해 보정된 신뢰도와 정책 매핑에 따라 등급을 라우팅하고, 유니코드 정규화·디코딩·접미사 정화 등 전처리로 형식 우회를 제거하여 이를 통해 모델 호출 전에 위험을 선별·차단하는 사전 추론 프롬프트 모델을 제안한다. 평가는 공개 벤치마크와 실제 시나리오에서 차단 실패율, 오차단율, 지연·비용, 보정 오차, 도메인 등을 보고하며, 다중 에이전트 방어·사후 모더레이션과의 결합 및 최소 권한·출처 검증·격리 원칙에 기반한 배치 가이드를 제시한다.
Large language models (LLMs) are useful for search, coding, and agentic workflows, but because input prompts directly control their behavior, they are vulnerable to prompt injection (direct and indirect), jailbreaks, format/Unicode evasion, resource exhaustion, and misuse of tools/plugins. We propose a pre-inference prompt model that filters and blocks risks before any model call by combining a lightweight global classifier with threat-specific small language model (SLM) modules, routing by calibrated confidence and policy mapping, and removing format evasions through preprocessing such as Unicode normalization/decoding and suffix sanitization. Our evaluation on public benchmarks and real-world scenarios reports block-failure rate, over-blocking rate, latency and cost, calibration error, and domain-related metrics. We also present integration with multi-agent defenses and post-hoc moderation, along with a deployment guide grounded in least-privilege, provenance verification, and isolation principles.
생성형 언어모델을 활용하는 코딩수업에서의 학습평가 KCI 등재
국제문화기술진흥원 The Journal of the Convergence on Culture Technology (JCCT) Vol.11 No.1 2025.01 pp.651-658
※ 원문제공기관과의 협약기간이 종료되어 열람이 제한될 수 있습니다.
본 논문은 생성형 언어모델이 코딩 교육에서 미치는 영향을 분석하고, 이에 적합한 학습 평가 방식에 대해 고 찰하고자 한다. 생성형 언어모델은 자연어로 주어진 지시문을 바탕으로 정확하고 효율적인 코드를 생성할 수 있는 능 력을 가지고 있어 코딩 학습 및 교육의 도구로의 활용도가 증대되고 있다. 이러한 환경 변화에 따라 코딩 수업에서 학생들의 성취도 평가를 위한 코딩 시험에서도 생성형 언어모델의 활용을 허용하는 것이 피할 수 없는 상황으로 여 겨지고 있다. 그러나 언어모델을 활용한 코딩 시험에서 학생들이 지시문을 단순히 프롬프트로 입력하여 높은 점수를 받는 경우가 발생하면서, 기존 평가 방식만으로는 학습자의 성취도를 변별하기 어려워지고 있다. 우리는 프로그래밍 문법에 대한 이해도와 생성형 언어모델을 활용하여 문제를 해결하는 능력 간의 상관관계를 분석하고자 하며 S대학의 코딩수업에서 기본적인 프로그래밍 문법을 평가하는 시험과 생성형 언어모델을 활용한 코딩시험 결과를 통해 두 가 지 능력의 상관관계를 분석하였다. 이러한 결과를 바탕으로 학습자의 프로그래밍 문법 이해도와 생성형 언어모델을 활용하여 문제를 해결하는 능력을 종합적으로 평가하기 위한 새로운 평가 문항 개발의 필요성을 논의한다.
This paper aims to analyze the impact of generative language models on coding education and explore appropriate assessment methods. Generative language models have the ability to generate accurate and efficient code based on natural language prompts, making them increasingly utilized as tools in coding education. However, in coding exams that allow the use of language models, students may simply input the exam instructions as prompts and still achieve high scores. As a result, traditional assessment methods have become inadequate in distinguishing students' actual coding proficiency. We aim to analyze the correlation between understanding programming syntax and the ability to solve problems using generative language models. To do this, we examined the results of both a test assessing basic programming syntax and a coding test that involved utilizing generative language models, administered in a coding course at S University. Additionally, the paper discusses the need to develop new assessment items that comprehensively evaluate students' understanding of programming syntax and problem-solving abilities.
[NRF 연계] 융합영어영문학회 융합영어영문학 Vol.9 No.2 2024.08 pp.129-148
※ 협약을 통해 무료로 제공되는 자료로, 원문이용 방식은 연계기관의 정책을 따르고 있습니다.
In his tragedies Shakespeare portrays the fall of good men into evil as a result of human corruption, leading to crimes and human misery. This paper examines the evolution and actions of Shakespearean villains, illustrating the consequences of evil through the characters of Iago in Othello, Richard in Richard III, and Macbeth in Macbeth. Through an in-depth analysis of these plays, the paper sheds light on the different manifestations of evil and their implications for human nature and society. Shakespear’s evils often exist outside the individual, such as societal injustice, oppression, or harmful systems and institutions. However, something imposed on individuals by external forces soon turns into the evil that comes from within an individual, such as deceit, cruelty, ambition. These internal evil often associated with personal choices and moral failings. As a necessary counterpart to good, the manifestation of evil is what allows us to recognize and appreciate goodness. This duality of Shakespeare’ tragedies is often explored in the context of moral dilemmas and the balance between opposing forces in the universe.
生成式語言模型在韓國中文敎學中應用與影響 ― 以ChatGPT與DeepSeek為例
[NRF 연계] 중국어문학연구회 중국어문학논집 Vol.153 2025.08 pp.129-146
※ 협약을 통해 무료로 제공되는 자료로, 원문이용 방식은 연계기관의 정책을 따르고 있습니다.
With the rapid development of generative language models such as ChatGPT and DeepSeek, international Chinese language education is facing new opportunities and transformations. Based on the theories of Comprehensible Input and Constructivist Learning, this paper explores the current applications and impacts of generative AI tools in Chinese language education in South Korea, with a specific focus on their roles in supporting learners, teachers, and classroom activities. A review of relevant research by Chinese and Korean scholars reveals that Chinese scholars mainly emphasize the macro-level changes brought by ChatGPT to international Chinese education, while Korean scholars, grounded in frontline teaching practices, highlight the value of AI tools in providing personalized feedback, enhancing situational authenticity, and improving language skills. Through case analysis, the paper further illustrates how ChatGPT and DeepSeek offer large amounts of comprehensible input materials?such as pronunciation demonstrations, grammar correction, and contextual dialogue generation?to meet students' individualized needs and strengthen their autonomous learning abilities. Meanwhile, the role of teachers has shifted from knowledge transmitters to guides, supervisors, and motivators, requiring them to balance the acquisition of declarative knowledge via AI tools with the cultivation of procedural knowledge through classroom practice. Moreover, the adaptability of AI tools in non-target language environments enhances the authenticity of conversational contexts, alleviates learning anxiety, and stimulates learners' motivation. By analyzing specific teaching examples, the paper discusses strategies and considerations for optimizing instructional design, enriching content, and improving classroom interaction through AI integration. Overall, AI-assisted Chinese education not only increases teaching efficiency but also raises higher demands for teachers' professional competencies. This study aims to provide references and insights for the practice of Chinese language education in Korea.
생성형 대규모 언어 모델과 프롬프트 엔지니어링을 통한 한국어 텍스트 기반 정보 추출 데이터셋 구축 방법
[Kisti 연계] 한국정보처리학회 정보처리학회논문지/소프트웨어 및 데이터 공학 Vol.12 No.11 2023 pp.481-492
※ 협약을 통해 무료로 제공되는 자료로, 원문이용 방식은 연계기관의 정책을 따르고 있습니다.
본 연구는 생성형 대규모 언어 모델을 활용하여 텍스트에서 정보를 추출하기 위한 한글 데이터셋 구축 방법을 탐구한다. 현대 사회에서는 혼합된 정보가 빠르게 유포되며, 이를 효과적으로 분류하고 추출하는 것은 의사결정 과정에 중요하다. 그러나 이에 대한 학습용 한국어 데이터셋은 아직 부족하다. 이를 극복하기 위해, 본 연구는 생성형 대규모 언어 모델을 사용하여 텍스트 기반 제로샷 학습(zero-shot learning)을 이용한 정보 추출을 시도하며, 이를 통해 목적에 맞는 한국어 데이터셋을 구축한다. 본 연구에서는 시스템-지침-소스입력-출력형식의 프롬프트 엔지니어링을 통해 언어 모델이 원하는 결과를 출력하도록 지시하며, 입력 문장을 통해 언어 모델의 In-Context Learning 특성을 활용하여 데이터셋을 구축한다. 생성된 데이터셋을 기존 데이터셋과 비교하여 본 연구 방법론을 검증하며, 관계 정보 추출 작업의 경우 KLUE-RoBERTa-large 모델 대비 25.47% 더 높은 성능을 달성했다. 이 연구 결과는 한국어 텍스트에서 지식 요소를 추출하는 가능성을 제시함으로써 인공지능 연구에 도움을 줄 것으로 기대된다. 더욱이, 이 방법론은 다양한 분야나 목적에 맞게 활용될 수 있어, 다양한 한국어 데이터셋 구축에 잠재력을 가진다고 볼 수 있다.
This study explores how to build a Korean dataset to extract information from text using generative large language models. In modern society, mixed information circulates rapidly, and effectively categorizing and extracting it is crucial to the decision-making process. However, there is still a lack of Korean datasets for training. To overcome this, this study attempts to extract information using text-based zero-shot learning using a generative large language model to build a purposeful Korean dataset. In this study, the language model is instructed to output the desired result through prompt engineering in the form of "system"-"instruction"-"source input"-"output format", and the dataset is built by utilizing the in-context learning characteristics of the language model through input sentences. We validate our approach by comparing the generated dataset with the existing benchmark dataset, and achieve 25.47% higher performance compared to the KLUE-RoBERTa-large model for the relation information extraction task. The results of this study are expected to contribute to AI research by showing the feasibility of extracting knowledge elements from Korean text. Furthermore, this methodology can be utilized for various fields and purposes, and has potential for building various Korean datasets.
중국어 문법 연구에 있어 ‘생성형 AI 언어 모델 서비스: ChatGPT’를 어떻게 활용할 것인가?
[NRF 연계] 영남대학교 중국연구센터 중국과 중국학 Vol.50 2023.09 pp.165-196
※ 협약을 통해 무료로 제공되는 자료로, 원문이용 방식은 연계기관의 정책을 따르고 있습니다.
중국어 문법 연구에 있어 ‘생성형 AI 언어 모델 서비스: ChatGPT’를 어떻게 활용할 것인가? 본고는 인문학 분야, 특히 중국어 문법 연구에 있어 생성형 AI 언어 모델인 ‘GPT’를 기반으로 서비스되고 있는 ‘ChatGPT’의 활용 방안에 대해 살펴보았다. 본고의 논의를 통해 중국어 문법 연구에 있어 ‘ChatGPT’의 활용은 해당 목표 연구의 보조재 혹은 도구로서, ‘어휘 분석, 언어학 이론, 문장 분석, 논문 목차 생성, 통/번역, 문장 생성’ 등의 영역에서 충분한 효용 가치가 있음을 확인하였고, ‘ChatGPT’의 사용에 있어 ‘프롬프트 엔지니어링’의 중요성도 확인하였다. 또한 언어학 연구 중 중국어 문법 연구에 있어 ‘ChatGPT’를 활용할 때, ‘표절, 저작권’ 등의 연구 윤리 문제가 발생할 수 있다는 점과 이를 대비하기 위한 준비사항도 함께 언급하였다.
.
생성형 거대언어모델의 의학 적용 현황과 방향 - 동아시아 의학을 중심으로 -
[NRF 연계] 한의병리학회 동의생리병리학회지 Vol.38 No.2 2024.04 pp.49-58
※ 협약을 통해 무료로 제공되는 자료로, 원문이용 방식은 연계기관의 정책을 따르고 있습니다.
The rapid advancement of generative large language models has revolutionized various real-life domains, emphasizing the importance of exploring their applications in healthcare. This study aims to examine how generative large language models are implemented in the medical domain, with the specific objective of searching for the possibility and potential of integration between generative large language models and East Asian medicine. Through a comprehensive current state analysis, we identified limitations in the deployment of generative large language models within East Asian medicine and proposed directions for future research. Our findings highlight the essential need for accumulating and generating structured data to improve the capabilities of generative large language models in East Asian medicine. Additionally, we tackle the issue of hallucination and the necessity for a robust model evaluation framework. Despite these challenges, the application of generative large language models in East Asian medicine has demonstrated promising results. Techniques such as model augmentation, multimodal structures, and knowledge distillation have the potential to significantly enhance accuracy, efficiency, and accessibility. In conclusion, we expect generative large language models to play a pivotal role in facilitating precise diagnostics, personalized treatment in clinical fields, and fostering innovation in education and research within East Asian medicine.
우리나라 공공부문의 인공지능 활용성 제고방안: LLM 기반의 생성형 AI를 중심으로
[NRF 연계] 한국정책과학학회 한국정책과학학회보 Vol.28 No.2 2024.06 pp.25-45
※ 협약을 통해 무료로 제공되는 자료로, 원문이용 방식은 연계기관의 정책을 따르고 있습니다.
생성형 AI의 등장과 발전이 전자정부(e-government)에서 인공지능정부(intelligent-government)로의 변화를 견인하고 있다. 공공부문에서는 AI 기술을 전통적 정부가 가지고 있는 저생산성 문제를 일소하고, 시민과의 소통과 협력을 강화하여 저대응성 문제를 획기적으로 개선할 수 있는 핵심적 수단으로 파악하고 있다. 하지만 방대한 양의 데이터를 요구하는 생성형 AI의 기술적 특수성과 결과에 대한 오판 및 오류와 같이 정부가 AI를 도입하는 과정에서 해결해야 할 과제들이 산적한 것도 사실이다. 이 연구에서는 향후 인공지능정부로의 효과적 전환과정에서 정부가 추진해야 할 AI 도입전략과 AI 도입 후 활용성 제고 방안을 제시하였다. 먼저, 공공부문으로의 생성형 AI 도입전략은 다음과 같다. 단기적으로는 민간기업의 AI모델을 활용하는 간접개발 방식으로의 운용을 통하여 AI기술에 대한 충분한 노하우를 습득할 필요가 있다. 중・장기적으로는 한국어 기반의 기본모델을 직접 개발하고 운영하는 방식으로 AI시스템을 구축할 필요가 있다. 활용성 강화를 위해서는 ①양질의 데이터를 확보하는 방향의 데이터 관리, ②개인정보 보안을 위한 관리감독 체계의 정립, ③우리나라 특수성을 반영한 AI알고리즘 개발, ④공무원을 포함한 대국민 대상의 AI교육 실시, ⑤AI활용을 뒷받침 할 인공지능법(가칭) 제정 등을 검토할 필요가 있다.
The emergence of generative AI is driving the transformation from e-government to intelligent government. Utilizing AI technology in the government sector offers significant advantages in addressing the productivity decline issues traditionally associated with governments and improving responsiveness to citizens. However many issues need to be addressed to apply generative AI in the public sector. This study suggests strategies for the effective transition to an intelligent government in the future. Additionally, this study presented measures to enhance the utilization of AI in the public sector. The strategy for introducing generative AI into the public sector is as follows. In the short term, it is necessary to utilize AI models from private companies to acquire knowledge of technology. In the long term, it is necessary for the government to develop and operate Korean-language-based AI models directly. To enhance the utilization of AI in the public sector is as follows. ⅰ) High-quality data acquisition is needed. ⅱ) Establishing a regulatory framework for management supervision is necessary for information security. ⅲ) Government need to develop AI algorithms that reflect the uniqueness and situation of Korea. ⅳ) The government needs to expand AI education, ⅴ) government needs to enact laws to support the utilization of AI.
日本語学習支援における生成式AIモデル翻訳の日中対照研究 ―アスペクト表現「ている」の訳出傾向から―
[NRF 연계] 대한일어일문학회 일어일문학 Vol.108 2025.11 pp.135-150
※ 협약을 통해 무료로 제공되는 자료로, 원문이용 방식은 연계기관의 정책을 따르고 있습니다.
일본어 문법 연구에서 아스펙트(상)에 관한 성과는 적지 않지만, 그중 주요 표현형태 중 하나인 「ている」에 대한 일중(日中) 대조 연구는 많지 않아. 중국어를 모국어로 하는 일본어 학습자의 일본어 학습의 난점이 된다. 2019년 히토쓰바시대학교에서 개최된 「일본언어학회 제158회 대회」에서는 공개 심포지엄의 형식으로 「아스펙트 연구의 새로운 시좌로서의 ‘テイル’ 연구―일본어학에서 일반언어학으로의 공헌―」이 재검토되었으며, 이를 통해 서로 다른 차원과 다문화 공생의 언어 환경에서 「ている」의 일중 대조 연구에 새로운 기회가 제공되었습니다. 최근 몇 년, ChatGPT와 DeepSeek(이하 ‘생성형 AI 모델’로 약칭함)의 등장으로 외국어 연구 분야, 특히 다언어 번역 분야에서 혁신적인 발전이 보이게 되었다. 그러나 여전히 생성형 AI 모델이 전통적 언어학 연구 분야에서 활용되는 사례는 거의 없다. 따라서 전통적 언어학 연구에서 생성형 AI 모델을 활용하는 일은 언어 연구의 하나의 큰 시도이자 새로운 도전이기도 하다. 본논문에서는 대조언어학의 관점에서 일본어 텍스트에 나타난 「ている」을 중심으로 생성형 AI 모델 번역문과 학습자 번역문을 비교함으로써, 「ている」이 표상하는 다의성이 중국어로의 번역에서 어떠한 ‘충돌’을 일으키는지에 대해 분석을 시도한다.
While substantial achievements of studies on this aspect have been made in the field of Japanese grammar, contrastive studies between Chinese and Japanese on one of its primary expression forms?the “teiru” construction?remain relatively limited. This phenomenon constitutes a main obstacle for Chinese learners of Japanese. At the 158th Meeting of the Linguistic Society of Japan, held at Hitotsubashi University in 2019, the public symposium titled “New approaches to the study on the aspectual verbal auxiliary ‘teiru’ in Japanese: A contribution of Japanese linguistics to the general linguistics” was reexamined; this event provided a new impetus for Chinese?Japanese contrastive study on ‘teiru’ from different dimensions within the linguistic context of multicultural co-existence. Recently, the successive emergence of ChatGPT and DeepSeek (referred to as “generative AI models”) has produced revolutionary advances in foreign language studies, particularly in the field of multilingual translation. Nevertheless, the application of generative AI models within traditional linguistic research is still uncommon. Accordingly, employing generative AI models in traditional linguistics constitutes both a major endeavor and a novel challenge for language research.This paper, from the standpoint of contrastive linguistics, attempts to analyze how the polysemy encoded by the “teiru” construction gives rise to translational “conflicts” in Chinese by comparing translations produced by generative AI models with those by language learners.
생성형 AI 영상 모델의 프롬프트 언어와 수사적(修辭的) 조작 - 그룹 뮤(Groupe μ)의 일반수사학을 중심으로
[NRF 연계] 한국기호학회 기호학 연구 Vol.82 2026.04 pp.221-254
※ 협약을 통해 무료로 제공되는 자료로, 원문이용 방식은 연계기관의 정책을 따르고 있습니다.
본 논문은 생성형 AI 환경에서 사용되는 ‘프롬프트 언어’를 그룹 뮤의 일반수사학의 관점에서 재해석하고, 그 구조적이며 의미적 작동 원리를 규명하고자 한다. 프롬프트 언어는 단순한 명령문을 넘어 비트겐슈타인의 ‘명제’ 개념과 같이 ‘현실의 상’을 조작하는 언어의 구성력으로 작동한다. 여기서 프롬프트 언어는 문화적 규칙과 자연법칙이 융합된 가능 세계를 재구성하는 과정의 언어로 이해될 수 있다. 이때 일반수사학에서 제시하고 있는 ‘삭제, 첨가, 삭제-첨가, 치환’의 수사적 조작은 AI 모델 내부의 연산 구조(차원 마스킹, 벡터 가산, 임베딩 이동, 셀프 어텐션)와 유비적 차원에서 적절히호응할 수 있다는 점에 착안하여 각 특성을 개념 압축, 공간 배치, 의미 확장, 세계관재구성과 연계함으로써 생성 이미지의 미학적 효과와 정서적 효과 역시 조작할 수 있는 핵심 기제임을 밝히고자 한다. 또한, 프롬프트 언어는 다양한 문화 코드의 충돌과재배열을 통해 문화적 잡종 이미지를 생산하고, 물리적 인과성을 전복하는 새로운 서사의 세계를 제시할 수 있다는 점에도 주목하고자 한다. 결과적으로 프롬프트 언어는수사적 조작과 계산적 연산이 교차하는 디지털 수사학적 장치이면서 의미변환을 수행하는 하이브리드 언어이자 생성형 AI 시대의 새로운 수사학적 실천이라고 할 수 있다.
This paper aims to reinterpret “prompt language”?used in generative AI environments?from the perspective of Group M’s general rhetoric and to elucidate its structural and semantic operating principles. Prompt language functions as a linguistic device that constructs “images of reality,” akin to Wittgenstein’s concept of a “proposition,” going beyond mere commands. Thus, prompt language can be understood as a process of constructing a possible world where cultural rules and natural laws converge. In this context, the rhetorical operations of “deletion, addition, deletion-addition, and substitution” proposed in General Rhetoric can be appropriately aligned with the computational structures within AI models (dimensional masking, vector addition, embedding shifts, self-attention) and on an analogical level. Based on this, we aim to demonstrate that these characteristics?translated into conceptual compression, spatial arrangement, semantic expansion, and worldview reconstruction?constitute the core mechanisms capable of manipulating both the aesthetic and emotional effects of the generated images. Furthermore, this paper aims to highlight that prompt language produces “cultural hybridity” through the collision and rearrangement of diverse cultural codes, and can present new narrative worlds of possibility that reverse physical causality. Consequently, prompt language can be regarded as a digital rhetorical device where rhetorical manipulation and computational operations intersect, a hybrid language that performs semantic transformation, and a new rhetorical practice in the era of generative AI.
0개의 논문이 장바구니에 담겼습니다.
선택하신 파일을 압축중입니다.
잠시만 기다려 주십시오.