Earticle

초록

영어

This study aims to suggest the development and application of Korean-based lightweight LLM (sLLM) that can be used in the school field. Currently, commercial LLM services are difficult to use in the educational field due to the risk of personal information leakage, server access environment restrictions, and cost problems. To solve this problem, we tried to develop a lightweight LLM that can be operated in smart devices distributed to schools through fine tuning and quantization using Korean datasets. As a result of the study, LLM, which was fine-tuned with the KorQuAD 2.0 dataset and quantized in the form of Q5_K_M, showed superior performance in terms of Korean understanding compared to other LLM. And the developed model was executed on smart devices distributed to schools, and the results of prompts were organized based on response and token values per second to confirm the possibility of educational use.

한국어

본 연구는 학교 현장에서 활용 가능한 한국어 기반 경량화 LLM(sLLM) 개발 및 적용 방안을 제시하고자 한다. 현재 상용 LLM 서비스는 개인정보 유출 위험, 서버 접속 환경 제한, 비용 문제 등으로 교육 현장에서 활용하기에 어려움이 있다. 이를 해결하기 위해 한국어 데이터셋을 활용한 파인튜닝과 양자화를 통해 학교에 보급된 스마트기 기에서 구동 가능한 경량화 LLM을 개발하고자 하였다. 연구 결과, Gemma-3-4b LLM을 KorQuAD 2.0데이터셋으 로 파인튜닝하고 Q5_K_M 형식으로 양자화한 LLM이 다른 LLM과 비교하여 한국어 이해력 측면에서 우수한 성 능을 보였다. 그리고 개발한 모델을 학교에 보급된 스마트기기에서 실행하여 프롬프트에 대한 결과를 응답과 초당 토큰 값을 기준으로 정리하여 교육적 활용 가능성을 확인하였다.

목차

요약
Abstract
1. 서론
2. 관련 연구
2.1. 교육에서의 LLM 활용 사례
2.2. 오픈소스 LLM의 적용 가능성
2.3. 경량화 LLM의 활용 방안
3. 연구방법
3.1. 연구 설계
3.2. 개발을 위한 오픈소스 LLM 선정
3.3. koBEST 벤치마크로 LLM 성능 확인
3.4. KorQuAD 데이터셋으로 파인튜닝 실시
3.5. GGUF 형식으로 LLM 양자화 실
3.6. 학교에 보급된 스마트 기기에서 경량화 LLM 실행
4. 연구결과
4.1. 오픈소스 LLM별 koBEST 벤치마크 결과
4.2. 파인튜닝된 LLM과 기존 LLM koBEST 벤치마크 결과
4.3. 양자화된 파인튜닝 LLM과 기존 양자화된 파인튜닝LLM koBEST 벤치마크 결과
4.4. 학교에 보급된 스마트기기에서의 경량화 LLM실행 결과
5. 결론 및 제언
참고문헌

키워드

저자

• 배국환 [ Gukhwan Bae | 대구매곡초등학교 ]
• 이영호 [ Youngho Lee | 대구교육대학교 컴퓨터교육과 ]
• 박판우 [ Phanwoo Park | 대구교육대학교 컴퓨터교육과 ] 교신저자

참고문헌

발행기관

간행물

표지보기 관심저널 등록

• 간행물명

  정보교육학회논문지 [Journal of The Korean Association of Information Education]

• 간기

  격월간

• pISSN

  1229-3245

• 수록기간

  1997~2026

• 등재여부

  KCI 등재

• 십진분류

  KDC 374 DDC 375