연구진은 의료 진단, 법률 분석 등 고위험 환경에 사용되는 다중 에이전트 시스템의 신뢰성 문제를 분석했어요. 오정보가 도구 호출 등을 통해 단일 에이전트의 추론 맥락에 침투하면 상호 작용을 통해 확산될 수 있어요. 연구 결과, 다중 에이전트 토론은 단일 에이전트 프롬프트보다 오정보로 인한 성능 저하를 줄여주는 효과가 있었어요.
다중 에이전트 시스템에서 오정보에 대한 강건성은 그룹 구성과 의사 결정 방식에 따라 달라지며, 합의는 투표보다 더 안정적일 수 있어요. 또한, 다수의 의견은 오정보된 에이전트를 올바른 방향으로 이끌 수 있어요.
연구는 다중 에이전트 시스템의 오정보 강건성이 기반 모델과 정보 교환 방식에 따라 달라진다는 점을 보여줘요.