연구진이 의료 영상 AI의 환각 현상(임상적으로 타당하지만 사실과 다른 결과)에 대한 다중 모드 분석을 수행했어요. 환각은 해부학적 구조 위조, 진단 누락, 측면 오류 등과 같은 문제를 야기할 수 있어요.
연구 결과, 의료 전문 모델보다 범용 모델이 환각 관련 벤치마크에서 더 나은 성능을 보였으며, 이는 좁은 영역의 미세 조정이 과적합으로 인한 허구적 결과로 이어질 수 있음을 시사해요.
물리 기반 아키텍처 제약, Chain-of-Thought 프롬프트, 인간 개입 안전장치 등 다양한 완화 전략이 효과적이며, FDA의 제품 수명 주기 관리 프레임워크에 따라 환각 관리가 필수적이에요.