연구진이 음성 언어 모델(SLM)의 추론 능력을 향상시키기 위해 새로운 프레임워크인 ECoM Reasoning을 제안했어요. ECoM Reasoning은 텍스트 요소를 압축하여 음성 안내와 추론 표현을 동시에 수행하며, 기존 방식보다 토큰 사용량을 줄이면서도 정확도를 높여요. 점진적 압축 전략을 통해 모델을 훈련하여 음성 수학 문제 해결 성능을 21% 향상시켰어요.
ECoM Reasoning은 표준 Chain-of-Modality(CoM) 아키텍처보다 토큰 사용량을 40% 줄이면서도 추론 정확도를 높이는 데 성공했어요. 이는 SLM의 추론 능력을 향상시키면서도 추론 효율성을 유지하는 것을 의미해요. 연구 결과는 음성 수학 문제 해결 벤치마크에서 검증되었어요.
연구진은 ECoM Reasoning의 효과를 입증하기 위해 점진적 압축 전략을 사용했는데, 이는 모델이 완전한 추론에서 압축된 추론으로 점진적으로 학습하도록 돕는 교육 과정 기반 전략이에요.