연구진은 기존 검색 증강 생성(RAG) 시스템이 사용자의 인지적 편향을 고려하지 않아 환각을 심화시킨다는 문제를 지적했어요.
CoRM-RAG 프레임워크를 제안하여, 사용자의 편향을 시뮬레이션하는 인지 교란 프로토콜을 통해 모델이 올바른 방향으로 나아가도록 돕는 증거 비평가 모듈을 학습시켰어요.
CoRM-RAG는 의사 결정 벤치마크에서 기존 방법보다 우수한 성능을 보였으며, 신뢰할 수 있는 강건성 점수를 통해 위험을 감지하고 회피할 수 있도록 지원해요.