연구진이 장기적 에이전트 안전을 위한 JANUS 프레임워크를 제안했어요. 이 프레임워크는 도구 사용 에이전트의 작동 실패를 사전에 방지하는 데 목표를 두고 있어요. JANUS는 다양한 에이전트 경로를 종합적으로 분석하여 안전 관련 미래를 예측하고 안전 여부를 판단하는 두 가지 작업을 결합해요.
JANUS는 CoAA-RL을 통해 예측의 유틸리티를 보상받으며 공동으로 최적화된 가드 모델인 Vanguard를 생성해요. Vanguard는 실행 전에 안전하지 않은 행동을 차단하며, 벤치마크에서 평균 보호율을 15.9% 향상시켰어요.
JANUS는 안전한 작업 완료율도 5.1% 향상시켜 에이전트 안전성을 높이는 데 기여하며, 기존 가드 모델보다 성능이 우수하다는 것을 입증했어요.