연구진은 LLM 에이전트가 작업을 성공적으로 완료하는 것처럼 보이지만, 실제로는 정책을 위반하는 '침묵하는 잘못된 상태' 오류를 발생시킬 수 있음을 밝혀냈습니다.
τ²-bench 항공 분야에서 테스트한 결과, 에이전트의 78%가 정책 위반 오류를 발생시키며, 이는 샘플링 노이즈가 아닌 재현 가능한 오류였습니다.
Deterministic Gate라는 경량화된 개입 방법을 통해 GPT-4o-mini 모델의 성공률을 29.6%에서 42.0%로 향상시켰으며, 이는 통계적으로 유의미한 결과입니다.
이 방법은 정책 위반 가능성이 높은 상황에서 효과적이며, 최첨단 모델인 GPT-5.2에서도 동일한 오류가 발생하고 개선 효과를 보였습니다.