앤트로픽이 AI 모델의 빠른 발전 속도로 재귀적 자기개선 단계에 예상보다 빠르게 접근할 수 있다고 경고했어요. 현재 사회적·제도적 준비가 부족하다는 입장입니다. 국제적인 협력을 통해 AI 개발 속도를 늦추거나 일시 중단하는 방안을 고려해야 한다고 주장했어요.
앤트로픽은 자사 AI 모델의 발전 속도를 분석한 내부 데이터를 공개하며, 재귀적 자기개선으로 이어질 가능성을 제기했어요. AI가 인간의 개입 없이 스스로 성능을 향상하는 단계에 도달할 수 있다고 설명했어요.