Pulse · AI 뉴스

토크나이저 이식: 벵골어 음성 인식의 자동 회귀 붕괴 완화

BanglaBERT · 2026-07-11

연구팀은 벵골어 음성 인식 모델의 성능 저하 원인을 영어 중심의 바이트 수준 토크나이저에서 찾았어요. 토크나이저가 벵골어 단어를 여러 조각으로 나누면서 자동 회귀 붕괴를 일으키는 문제였어요. 이를 해결하기 위해 BanglaBERT WordPiece 어휘를 활용한 새로운 토크나이저 이식 파이프라인을 제안해 벵골어 음성 인식 성능을 개선했어요.

자동 회귀 시퀀스 길이를 85.8% 감소시켜 벵골어 음성 인식의 불안정성을 완화하는 데 성공했고, 882시간 Lipi-Ghor 데이터셋에서 21.54%의 WER과 0.0053의 RTF를 달성했어요. 이는 기존 모델과 경쟁력 있는 수준이에요.

이 연구는 자원 집약적인 사전 훈련 없이도 소형 음성 인식 모델을 다양한 스크립트로 조정할 수 있는 확장 가능하고 재현 가능한 방법을 제시하며, 다른 언어에도 적용 가능성을 열어두고 있어요.

##음성인식##벵골어##토크나이저##자동회귀##BanglaBERT
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기