Earticle

초록

영어

LLMs have evolved from single-modal to multimodal architectures and, integrated with the Internet of Things (IoT), have improved quality of life and enabled more convenient living environments. However, LLMs' technical characteristics—indiscriminate memorization of data and the inseparability of instructions and data—introduce significant security vulnerabilities. This paper classifies LLM-related threats into privacy and data security categories, based on four core security properties from NIST and OWASP (confidentiality, integrity, safety, and fairness), analyzed across the six stages of the AI lifecycle and IoRT components. We examine major threats including PII leakage, data poisoning, prompt injection, hallucination, bias, and supply chain attacks, and review countermeasures such as data cleaning, federated learning, inference detection, differential privacy, and encryption. By discussing each technique's limitations, this paper identifies critical gaps and outlines future research directions for securing LLMs in IoRT environments.

한국어

LLM은 단일모달에서 멀티모달로 진화하며 사물인터넷(IoT)과 결합되어 삶의 질 향상과 편리한 생활 환경 제공에 기여하고 있다. 그러나 LLM이 지닌 '데이터의 무차별적 기억'과 '명령어와 데이터의 분리 불가능성'이라는 기술적 특성은 다양한 보안 취약점을 초래한다. 본 논문은 NIST와 OWASP가 제시하는 4대 보안 속성(기밀성, 무결성, 안전성, 공정성)을 기준으로 LLM 관련 위협을 개인정보 보호와 데이터 보안 두 범주로 분류하고, AI 생명주기 6단계 및 IoRT 단계별 구성요소를 반영하여 이를 분석한다. 구체적으로 개인정보 유출, 데이터 오염, 프롬프트 인젝션, 환각, 편향, 공급망 공격 등 주요 위협을 다루며, 이에 대한 대응책으로 데이터 클리닝, 연합학습, 추론 탐지, 차분 프라이버시, 암호화 기법을 검토한다. 아울러 각 대응 기술이 지닌 한계점을 논의함으로써 향후 LLM 보안 연구가 나아가야 할 방향을 제시한다.

목차

요약
Abstract
1. 서론
2. 관련 연구
2.1 AI LLM Architecture
2.2 로봇 사물인터넷과 LLM
3. LLM 보안 이슈
3.1 개인정보보호 위협
3.2 데이터 보안 위협
3.3 IoRT 보안 위협
4. 위협에 대한 대응과 한계성
4.1 대응 방안
4.2 한계성
5. 결론
REFERENCES

키워드

저자

• 최정희 [ Jeong-Hee Choi | 목원대학교 스톡스대학 SW교양학부 교수 ] Corresponding Author

참고문헌

발행기관

간행물

표지보기 관심저널 등록

• 간행물명

  산업과 과학 [Advanced Industrial SCIence]

• 간기

  격월간

• eISSN

  2951-2476

• 수록기간

  2022~2026

• 등재여부

  KCI 등재후보

• 십진분류

  KDC 004 DDC 004