연구진은 LLM이 물리적 세계에 적용될 때 언어적으로 안전한 지시사항도 위험할 수 있음을 밝혔습니다. Qwen2.5, Phi-3.5, SmolLM2 모델에서 콘텐츠 위험(CD)과 물리적 위험(PD)이 분리된 신호로 나타났습니다. PRISM이라는 새로운 방법을 통해 물리적 위험을 정확하게 감지하고, 기존 LLM 판단 방식보다 훨씬 낮은 오탐율을 기록했습니다.
PRISM은 전체 숨겨진 상태에 대한 단일 레이어 L2 정규화 로지스틱 프로브로, SafeAgentBench에서 86.2~87.7%의 정확도와 11.7~13.7%의 오탐율을 달성했습니다. 연구진은 물리적 위험을 직접적으로 나타내지 않는 1,000개의 물리적 위험 쌍으로 구성된 PhysicalSafetyBench-1K를 새롭게 구축했습니다.
PRISM은 SafeText 및 EARBench에서도 재현 가능성을 보여, 텍스트 검열을 넘어선 물리적 안전을 위한 숨겨진 상태 프로빙의 유효성을 입증했습니다.