Pulse · AI 뉴스

대규모 추론 모델의 사실 기반 환각 완화: 혼합 모드 어드밴티지 정규화

MARGO · 2026-07-07

연구진은 대규모 추론 모델(LRM)의 명시적 사고 과정이 사실 기반 질문 응답(QA)에서 환각을 유발할 수 있음을 발견했어요.

MARGO라는 강화 학습 프레임워크를 제안하여, 사고 과정이 사실에 기반한 가치를 더하는지 평가하고 환각을 유발하는 사고를 억제해요.

여러 사실 기반 QA 벤치마크에서 MARGO는 기존 모델보다 사실적 신뢰성을 향상시켰으며, 수학적 벤치마크에서는 일반적인 추론 능력을 유지했어요.

##LLM##연구##환각##강화학습
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기