Pulse · AI 뉴스

마스크된 확산 언어 모델의 신뢰도 재마스킹 재평가

WINO · 2026-06-11

연구진은 마스크된 확산 언어 모델(dLLM)의 신뢰도 기반 재마스킹 방식이 실제로는 큰 효과를 보지 못한다는 연구 결과를 발표했어요.

기존 연구에서는 재마스킹 방식이 토큰 생성 오류를 줄이는 데 도움이 된다고 보고되었지만, 짧은 블록 길이 환경에서는 기존 방식과 차이가 거의 없었어요.

비그리디(non-greedy) 디코딩 환경에서는 오히려 다양성 감소 문제를 악화시킬 수 있으며, 설정에 따라 효과가 달라지는 것으로 나타났어요.

##dLLM##확산언어모델##재마스킹##WINO##연구평가
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기