Pulse · AI 뉴스

임상 검색 증강 생성 모델의 허위 정보 연관 오류: 기만적 연동

Deceptive Grounding · 2026-07-10

연구진은 임상 검색 증강 생성(RAG) 모델이 사실에 기반하여 답변하는지 확인하는 기존 평가 방식이 허점을 가지고 있음을 지적했어요. 모델이 인용한 근거가 잘못된 대상에 대한 증거를 제시하는 '기만적 연동(Deceptive Grounding, DG)' 현상을 발견했죠. DG는 기존의 환각, 충실도, 인용 검증을 통과하면서도 발생하며, 의료 분야 전문 모델에서 더 심각하게 나타나는 경향이 있어요.

##RAG##임상##AI##오류##기만적연동
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기