Pulse · AI 뉴스

LLM 에이전트 안전 배치를 위한 3계층 Assume-Guarantee 아키텍처 필요

arXiv cs.AI · 2026-05-19

본 논문은 LLM 에이전트의 안전을 단일 추상화 계층으로 보장하는 것이 구조적으로 불가능하며, 세 가지 차원(의도 준수, 환경 유효성, 동적 타당성)이 서로 다른 정보에 의존하기 때문이라고 주장합니다.

안전 각 차원은 독립적으로 인증된 계층으로 구성된 계약 기반 아키텍처를 통해 확률적 보장을 제공해야 합니다.

향후 연구 과제로는 비 i.i.d. 추적으로부터 경계 추정, 배포 드리프트 하에서의 계약 우아한 저하, 다중 에이전트 환경으로의 확장이 있습니다.

##LLM##에이전트##안전
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기