본 논문은 에이전트 기반 AI 안전 연구를 위한 방법론적 제안을 제시합니다. 계획, 기억, 도구 사용, 지속적인 정체성, 지속적인 상호작용과 같은 능력을 갖춘 시스템의 안전은 개별 모델 수준에서만 분석할 수 없게 되었습니다.
연구팀은 에이전트 간의 상호작용을 통해 발생하는 집단적 위험을 식별하고 통제할 수 있는 프레임워크를 제안합니다. 이를 위해 '에이전트 기반 미시물리학'과 '생성적 안전'이라는 개념을 도입했습니다.
에이전트 기반 미시물리학은 특정 프로토콜 조건 하에서 한 에이전트의 출력이 다른 에이전트의 입력이 되는 로컬 상호작용 역학을 분석하는 수준을 정의하며, 생성적 안전은 미시 수준의 조건에서 현상을 성장시키고 위험을 도출하여 효과적인 개입을 설계하는 방법론을 의미합니다.