Earticle

초록

영어

This study examines the applicability of a Transformer-based language model to the exploration of semantic relationships in classical Japanese Waka and proposes cosine angles derived from contextual embeddings as quantitative indicators for describing relationships among morphemes within poems. Rather than attempting to reinterpret the literary functions of makurakotoba (pillow words), this study employs them as a stable philological benchmark to compare relationships observed in BERT’s contextual embedding space with conventional literary interpretations. The analysis focuses on three makurakotoba (ashihiki, hisakata, and nubatama) occurring in both the Man’yōshū and the Kokin Wakashū. Contextual embeddings were extracted using the Character-level Japanese BERT model developed by Tohoku NLP. Character-level hidden states were averaged to construct morpheme vectors, and cosine angles between vectors were calculated to examine proximity in the contextual embedding space. Based on these measurements, three complementary analytical methods were developed: semantic chains, sentence mean vectors, and nearest-neighbor semantic graphs. The results indicate that BERT does not consistently reproduce the conventional philological associations between makurakotoba and their expected target expressions. However, contextual embeddings reveal relationships among morphemes that can be compared with traditional interpretations. Semantic chains visualize sequential local proximity relationships, sentence mean vectors provide a reference point for comparing the overall distribution of morphemes within a poem, and nearest-neighbor semantic graphs reveal local proximity relationships among morphemes. While these representations do not always coincide with philological readings, they offer a quantitative perspective from which similarities and discrepancies can be examined. This study should be regarded as a pilot study proposing a methodology rather than a reinterpretation of makurakotoba. Its primary contribution lies in presenting a framework for quantitatively exploring relationships among morphemes in waka through cosine angles derived from contextual embeddings. The proposed approach demonstrates the potential of Transformer-based language models as analytical tools for Japanese classical literature while also clarifying the limitations of their application.

한국어

본 연구는 Transformer 기반 언어모델인 BERT를 일본 고전 와카 연구의 분석 도구로 활용할 수 있는지를 검토하고, BERT의 문맥 임베딩에서 계산되는 코사인각(cosine angle)을 와카 내부의 형태소 간 관계를 계량적으로 탐색하기 위한 지표로 제안하는 것을 목적으로 한다. 분석 대상으로는 『만요슈』와 『고킨슈』에 공통적으로 나타나는 마쿠라코토바 가운데 「あしひき」, 「ひさかた」, 「ぬばたま」를 선정하였다. 문맥 임베딩 분석에는 Tohoku NLP의 Character-level Japanese BERT를 사용하였으며, 문자 단위 벡터값을 형태소 단위로 평균하여 각 형태소의 분석용 벡터를 구성하였다. 분석은 세 단계로 진행하였다. 먼저 마쿠라코토바와 동일한 와카에 출현하는 내용 형태소 사이의 코사인각을 계산하여, 문헌학적으로 알려진 호출 관계가 BERT의 문맥 임베딩 공간에서 어떠한 근접 관계로 나타나는지를 확인하였다. 그 결과 마쿠라코토바와 호출 형태소의 관계는 일부 용례에서는 확인되었으나 전체적으로 높은 비율로 나타나지는 않았다. 다음으로 「あしひき」를 출발점으로 한 의미연쇄와 문장 평균 벡터를 이용하여 형태소 간 문맥 임베딩상 근접성과 내용 형태소의 전체적인 배치를 검토하였다. 이를 통해 하나의 기준 형태소와의 근접 관계와 문장 평균 벡터를 기준으로 한 형태소 배치가 서로 다른 정보를 제공한다는 점을 확인하였다. 마지막으로 각 내용 형태소가 코사인각이 가장 작은 다른 형태소를 선택하도록 하는 최근접 의미망을 구축하고, 허브의 진입차수, 상호 최근접 관계, 약연결 성분 등을 분석하였다. 그 결과 BERT의 최종 레이어에서 와카의 형태소들은 하나의 중심으로 단순히 수렴하기보다 복수의 국소적 근접 관계를 형성하는 경향을 보였다. 한편 최근접 의미망이 모든 작품에서 문헌학적 독해와 일치하는 것은 아니었다. 일부 용례에서는 k=1의 최근접 관계만으로 문헌학적으로 중요한 관계가 충분히 가시화되지 않았으며, k=2로 확장함으로써 k=1에서는 나타나지 않았던 문헌학적으로 해석 가능한 관계가 추가로 가시화되는 경우도 확인되었다. 그러나 여전히 문헌학적 독해와 충분히 대응하지 않는 사례도 존재하였다. 이러한 결과는 최근접 의미망을 와카의 의미 구조 자체로 간주하기보다, BERT가 형성한 문맥 임베딩 공간을 가시화한 하나의 분석적 지도로 이해해야 함을 보여준다. 본 연구는 마쿠라코토바의 새로운 문헌학적 기능이나 역사적 변화를 규명하는 것을 목적으로 하지 않는다. 오히려 문헌학적으로 비교적 안정된 해석이 축적된 표현을 대상으로 삼아, BERT의 문맥 임베딩 공간에서 나타난 형태소 간 관계와 문헌학적 독해가 어떠한 지점에서 대응하고 어긋나는지를 비교하였다. 이를 통해 BERT가 와카의 의미를 자동으로 판정하는 도구라기보다, 와카 내부의 형태소 간 관계를 계량적으로 탐색하고 문헌학적 독해와 비교･검토하기 위한 분석 도구로 활용될 가능성을 확인하였다. 또한 코사인각을 기반으로 문맥 임베딩상 근접성, 의미연쇄, 문장 평균 벡터, 최근접 의미망을 단계적으로 구축함으로써, 일본 고전문학의 의미 관계를 계량적으로 탐색하기 위한 하나의 방법론적 틀을 제안하였다.

목차

Abstract
1. 서론
2. 연구방법 및 사용도구
2.1. 사용도구
2.2. 연구방법
3. 분석
3.1. 마쿠라코토바와 내용 형태소 간 문맥 임베딩 근접성 분석
3.2. 형태소 교정과 의미연쇄의 재검토
3.3. 최근접 의미망을 통한 국소적 근접 관계의 분석
4. 결론
<참고문헌>
<국문요지>

키워드

저자

• 권도영 [ KWON DO YOUNG | 한국외국어대학교 일본언어문화학부 특임강의교수 ]

참고문헌

발행기관

간행물

표지보기 관심저널 등록

• 간행물명

  비교일본학 [Comparative Japanese Studies]

• 간기

  연3회

• pISSN

  2092-5328

• 수록기간

  1993~2026

• 등재여부

  KCI 등재

• 십진분류

  KDC 309 DDC 300