Earticle

초록

영어

Purpose: This study aims to address safety, developmental appropriateness, privacy, and human oversight issues in LLM-based conversational systems for preschool children, proposing an integrated framework that combines child safety with developmental observation. Method: Through a literature review on child-LLM interaction risks, developmental psychology, and international regulations (UNICEF, EU AI Act, COPPA), the study proposes CMCASA—a multilayer safety architecture consisting of rule-based safety, context-aware LLM safety, and multidisciplinary human review layers—and conceptualizes CDDB as explainable developmental observation markers extracted from natural conversations. Result: CMCASA provides a multi-layered governance structure that addresses explicit harmful content, emotional risks, privacy violations, and developmental inappropriateness, while the CDAE and CDDB offer continuous, explainable developmental observation evidence rather than diagnostic scores from naturalistic child-AI conversations. Conclusion: CMCASA integrates safety, developmental assessment, privacy, and human oversight into a single governance structure; however, the reliability, construct validity, cultural generalizability, and long-term efficacy of CDDB require systematic empirical validation before real-world deployment.

한국어

연구목적: 미취학 아동 대상 LLM 기반 대화형 시스템의 안전성, 발달적합성, 프라이버시 및 인간 감독 문제를 통합적으로 검토하고, 아동 안전과 발달 관찰을 결합하는 개념적 프레임워크를 제안한다. 연구방법: 아동-LLM 상호작용 위험, 발달 심리학 및 국제 규제(UNICEF, EU AI법, COPPA) 관련 문헌을 고찰하여, 규칙기반 안전 계층, 맥락인식 LLM 안전 계층, 다학제적 인간 검토 계층으로 구성된 CMCASA를 제안하고, 자연스러운 대화에서 추출되는 발달 특징을 CDDB로 개념화한다. 연구결과: CMCASA는 명시적 유해성, 정서적 위험, 개인정보 침해 및 발달부적합성을 다층적으로 관리하는 거버넌스 구조를 제공하며, CDAE와 CDDB는 진단 점수가 아닌 지속적이고 설명가능한 발달 관찰 증거를 제공한다. 결론: CMCASA는 안전성, 발달 평가, 프라이버시, 인간 감독을 하나의 거버넌스 구조로 통합하였으나, CDDB의 신뢰도, 구성 타당도, 문화적 일반화가능성 및 장기적 효과는 실제 적용 전 체계적인 실증 연구를 통해 검증되어야 한다.

목차

ABSTRACT
요약
서론
관련 연구
아동 대상 대화형 인공지능의 기회와 위험
발달적합성과 설명가능성
아동 대화 데이터와 프라이버시
아동 안전 다층 대화형 인공지능 안전 아키텍처(CMCASA)
설계 원칙
규칙기반 안전 계층
LLM 안전 계층
대화형 발달 평가와 대화형 발달 디지털 바이오마커
대화형 발달 평가 엔진(CDAE)
대화형 발달 디지털 바이오마커(CDDB)
CDDB 생성 절차
통합적 거버넌스 구조
안전성의 다차원적 이해
프라이버시 보호와 공정성
결론
Acknowledgement
References

키워드

저자

• 이정록 [ Jeong Rok Lee | CTO, AI Leader Inc, Cheonan, Republic of Korea ]
• 박건철 [ Keon Chul Park | Assistant Professor, School of Business Administration, Tech University of Korea, Siheung, Republic of Korea ]
• 신원선 [ Won Sun Shin | CEO, Vision21Tech Inc, Daejeon, Republic of Korea ]
• 정상 [ Sang Jeong | Research Professor, Office of Research Affairs, Chung-Ang University, Seoul, Republic of Korea ] Corresponding Author

참고문헌

발행기관

간행물

표지보기 관심저널 등록

• 간행물명

  한국재난정보학회논문집 [Journal of The Korean Society of Disaster Information]

• 간기

  계간

• pISSN

  1976-2208

• 수록기간

  2005~2026

• 등재여부

  KCI 등재

• 십진분류

  KDC 338 DDC 361