연구진이 AI 자기 개선 관련 arXiv 논문 1,250편을 분석하여 '자기 연마', '자기 보상' 등 혼용되는 어휘를 구분했어요.
분석 결과, AI는 배포 환경에서의 행동 개선, 학습을 통한 정책 수정, 평가자 개선, 연구 과정 개선 등 다양한 방식으로 스스로를 개선하고 있어요.
제한적인 자기 연마는 수렴적이고 평가 가능하지만, 자율적 자기 개선은 토대 요구 사항, 붕괴 역학, 컴퓨팅 제약 등으로 인해 어려움을 겪고 있어요.
연구진은 자기 평가 범위를 조사하고, 신뢰성 계층 구조를 제시하며, 안전 및 거버넌스 문제를 연결하여 자기 개선 측정의 중요성을 강조했어요.