딥러닝 기반 언어모델을 이용한 한국어 학습자 쓰기 평가의 자동 점수 구간 분류 - KoBERT와 KoGPT2를 중심으로 -
Automatic Score Range Classification of Korean Essays Using Deep Learning-based Korean Language Models - The Case of KoBERT & KoGPT2 -
Automatic Score Range Classification of Korean Essays Using Deep Learning-based Korean Language Models-The Case of KoBERT & KoGPT2-. We investigate the performance of deep learning-based Korean language models on a task of automatically classifying Korean essays written by foreign students. We construct an experimental data set containing a total of 304 essays, which include essays discussing the criteria for choosing a job (‘job’), conditions of a happy life (‘happiness’), relationship between money and happiness, and definition of success. These essays were divided into four scoring levels, and using this 4-class data set, we fine-tuned two Korean deep learning-based language models, namely, KoBERT and KoGPT2, to use them in the automatic essay classification experiment. The 7-fold cross validation classification accuracies of ‘job’ and ‘happiness’ essays were 48.8% and 65.2% respectively for KoBERT, and 50.6% and 58.9% respectively for KoGPT2. Furthermore, the 7-fold cross validation classification accuracies of the integrated dataset that combined all essays were 54.5% and 46.5% for KoBERT and KoGPT2 respectively.
한국어
이 연구에서는 '한국어 딥러닝 모델'이 '한국어 학습자의 쓰기 자료에 대한 한국어 교사의 평가 점수'를 어느 정도 유사하게 예측할 수 있는지 살펴보았다. 구체적으로 이 연구에서는 304편의 한국어 쓰기 자료와 각각에 대한 평가 점수를 KoBERT와 KoGPT2로 학습시킨 후 그것이 인간 채점자(한국어 교사)의 평가 점수를 어느 정도 유사하게 예측하는지 실험하였다. 학습 데이터는 주제에 따라 '직업'과 '행복'으로 구분하였고, 점수에 따라 4종 레이블을 부착하였다. 7겹 교차 검증을 통한 실험 결과, KoBERT에서는 '직업' 데이터에서 48.8%, '행복' 데이터에서 65.2%의 분류 정확도를 나타냈다. KoGPT2에서는 같은 데이터에 대해 각각 50.6%와 58.9%의 분류 정확도를 나타냈다. 더불어, 모든 주제를 통합한 데이터에서는 KoBERT와 KoGPT2에 대해 각각 54.5%와 46.5%의 분류 정확도를 확인할 수 있었다. 이 연구를 통해 한국어 쓰기 자료에 대한 자동 채점 시스템의 가능성을 확인할 수 있었다. 향후 GPT-3의 한국어 모델이 개발되는 등의 기술 발전이 이루어진다면, 이 연구에서 시도한 한국어 자동 채점 시스템도 충분히 가능할 것으로 기대한다.
목차
Abstract 1. 서론 2. 이론적 배경 3. 한국어 쓰기 답안지 자동 점수 구간 분류 실험 3.1. 데이터 3.2. 실험 방법 4. 실험 결과 4.1. ‘직업의 조건’ 실험 결과 4.2. ‘행복의 조건’ 실험 결과 4.3. ‘통합’ 실험 결과 4.4. 시사점 5. 결론 참고문헌 국문초록
키워드
딥러닝언어모델한국어 쓰기 답안지KoBERTKoGPT2자동 점수 구간 분류Deep LearningLanguage ModelKorean EssaysKoBERTKoGPT2Automatic Score Range Classification
국제한국언어문화학회 [International Network for Korean Language and Culture]
설립연도
2001
분야
인문학>한국어와문학
소개
인류의 문화가 발달하면서, 언어가 만들어지고 발전되었다. 언어는 문화의 소산이면서, 문화를 이끌어 가는 핵심 동력이 되었다. 언어와 문화는 간단 없이 상호 영향을 주고 받으면서, 언어는 문화를, 문화는 언어를 반영하고 이를 축적해 왔다. 문화를 모체로 하는 언어는 이제 문화의 모체가 될 만큼 상호 긴밀한 관계를 맺고 있다.
많은 학문의 영역이 이제는 두꺼웠던 벽을 허물고, 상호 관련 영역에 주목하고 있는바, 언어 문화의 경우에도 예외가 될 수 없다. 본 학회는 언어와 문화가 상호 작용하는 표면 현상과 그 내면의 배경 연구를 통하여 새로운 학문의 영역을 구축하고, 한국 언어문화와 여타 세계의 이질 언어문화와의 대조 연구를 통하여, 국제 사회 속에서 한국 언어문화의 정체성을 확립하고 이를 국제 사회에 보급하는 데 학회의 주된 목표를 둔다.
한국의 국제적 위상 향상과 함께, 한국어의 국제적 위상도 매우 높아 가고 있다. 이에 따라 국내외에서 외국어로서의 한국어 교육의 수요가 급증하고 있는 현실에서, 한국어 교육과 언어문화 교육은 불가분의 관계에 있는 만큼, 본 학회는 한국어 및 한국 언어문화 교육 진흥에도 주요한 활동 목표를 두고 있다.
이에 본 학회는 한국 언어문화의 이론적 연구와 타 언어문화와의 대조 연구, 한국 언어문화의 교육 및 해외 보급에 주된 목표를 둔다.
간행물
간행물명
한국언어문화학 [Journal of the International Network for Korean Language and Culture]