This study designed and developed AMOND (AI Mentor for On-device Nexus of Documentation), an on-device sLLM service for teachers' work to address privacy risks, costs, and generic responses that fail to reflect teachers' work contexts. Based on an exploratory needs analysis of 41 teachers, AMOND integrated EXAONE 3.5 2.4B, document RAG, DB+SQL-based structured data retrieval, role context, and a unified interface. A cumulative component comparison of 90 school-work queries using LLM-as-a-judge showed that the role-context condition significantly improved the overall mean score and faithfulness over the baseline; adding RAG significantly reduced performance, while DB+SQL caused no significant additional decline. This study contributes by implementing an on-device sLLM service for teachers’ work and preliminarily identifying the applicability of role context together with the need to refine retrieval filtering and context construction for small models.
한국어
본 연구는 교육 현장에서 LLM 활용 시 제기되는 개인정보 유출 위험, 비용 부담 및 교사 업무 맥락을 반영하지 못하는 범용 응답의 한계에 대응하고자, 교사 업무용 PC에서 로컬 구동 가능한 sLLM 기반 교사 업무용 AI 서비스 AMOND(AI Mentor for On-device Nexus of Documentation)를 설계·개발하였다. 교원 41명을 대상으로 한 탐색적 요구분석을 바탕으로 EXAONE 3.5 2.4B, 문서 기반 RAG, DB+SQL 기반 구조화 데이터 조회, 역할 컨텍스트 및 통합 UI를 구현하였다. 학교 업무 질의 90개에 대한 LLM-as-a-judge 기반 누적형 구성요소 비교 결과, 역할 컨텍스트 조건은 Baseline보다 평균 점수와 근거 충실성이 유의하게 향상되었으나, RAG 추가 후 성능은 유의하게 하락하였으며 DB+SQL 추가에 따른 유의한 추가 하락은 나타나지 않았다. 본 연구는 교사 업무용 온디바이스 sLLM 서비스를 실제로 설계·구현하고, 역할 컨텍스트의 적용 가능성과 함께 소형 모델 환경에서 검색 선별 및 컨텍스트 구성의 정교화가 필요함을 예비적으로 제시하였다는 데 의의가 있다.
목차
요약 Abstract 1. 서론 2. 이론적 배경 2.1. sLLM 개념과 필요성 2.2. 검색증강생성(RAG, Retrieval Augmented Generation) 2.3. 선행연구 분석 3. AMOND 서비스 설계 및 개발 3.1. 요구분석 3.2. AMOND 서비스 설계 4. AMOND 서비스 개발 4.1. 개발 환경 및 기술 스택 4.2. RAG 파이프라인 4.3. 역할 컨텍스트 기반 질의 과정 4.4. 주요 기능 및 화면 5. 성능평가 5.1. 평가 설계 및 지표 5.2. 평가결과 5.3. 성능 평가 분석 6. 결론 및 제언 참고문헌
한국정보교육학회 [Korean Association of Information Education]
설립연도
1997
분야
사회과학>교육학
소개
사단법인 한국정보교육학회는 21세기 지식 정보화 사회에서 정보 교육에 관한 학술 및 기술 발전에 기여하기 위하여 정보교육과 관련된 학술대회개최, 학술논문지 발간, 연구지원사업 등을 추진하여 21세기 지식 정보화 시대의 초석을 마련하며 정부에서 추진하고 있는 교육정보화 사업과 연계하는 것을 기본 방향으로 한다.
간행물
간행물명
정보교육학회논문지 [Journal of The Korean Association of Information Education]