Pulse · AI 뉴스

ICML 논문: 정보 예산 기반 환각 방지 게이트 공개

ntkMirror · 2026-06-10

연구진은 증거 기반 질의응답에서 정보 예산에 따른 환각 현상을 예측하고 방지하는 '정보 예산 회피 게이트(Information Budget Abstention Gate)'를 제안하는 ICML 2026 논문을 발표했어요.

새로운 방법은 증거 제시 순서에 따른 모델 응답 확률 변화를 활용하여 이론적 근거 기반 ISR=1 게이트를 구현하며, 불충분한 정보 시 모델이 답변을 거부하도록 설계돼요.

연구진은 'ntkMirror'라는 이름의 이 게이트를 위한 오픈 웨이트 구현체를 공개했으며, 별도 튜닝 없이도 모델의 환각을 줄이고 정확도를 향상시키는 데 효과적이에요.

##ICML##환각방지##오픈소스##ntkMirror
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기