AI 개발사들이 제시하는 안전 능력 기준이 상이하여 제3자 검증이 어렵고, 안전 기준 경쟁을 유발할 수 있어요. 연구진은 오용 위험(사이버·생물학), 자동화된 AI 연구 개발, 세 가지 위험 영역에서 조율된 임계값 도출 방법을 제시했어요. 오용 위험은 예상되는 피해를 기준으로 모델 출시 조건 등을 고려한 위험 모델링 접근법을 사용했어요.
자동화된 AI 연구 개발은 AI 발전 속도를 기준으로 임계값을 설정했어요. 기존 연구를 확장하여 경험적 격차와 한계를 지적했어요.
연구 결과는 안전 기준의 일관성을 확보하고 AI 안전 표준 경쟁을 방지하는 데 기여할 수 있어요.