연구팀이 다국어 LLM의 언어 처리 방식을 구조적 분석으로 탐구했어요. 저자원 언어는 고·중자원 언어보다 영어와 구조적으로 더 차이가 큰 것으로 나타났어요. 언어별 추가 학습은 구조를 변화시키지만 언어 간 관계는 유지하는 것으로 확인됐어요.
LLM은 영어 중심의 학습 데이터에도 불구하고 사전 및 사후 학습을 통해 여러 언어를 처리해왔어요. 기존 연구는 토큰 표현에 집중했지만, 구조적 관점은 간과돼 왔어요.
연구 결과, 언어별 추가 학습은 LLM의 구조를 변화시키지만, 언어 간의 관계는 보존되는 것으로 나타났으며, 이는 다국어 LLM의 이해에 중요한 시사점을 제공해요.