AI안전연구소가 국내외 AI 모델 총 42종에 대한 안전성 평가를 완료하고 결과를 공개했어요. 지난해 29종, 올해 13종을 평가했으며, CBRN 항목도 점검 대상에 포함됐어요.
AI안전연구소는 AI 모델의 취약점과 오작동 가능성을 점검하기 위해 6만여 개의 평가 데이터셋과 시나리오를 확보하고 있어요. 이를 바탕으로 상시·정기 안전성 평가를 지속할 예정이에요.
연구소는 AI 안전 관련 가이드라인을 공개하고 확산하여 기업과 국민의 안전한 AI 개발 및 활용을 지원할 계획이며, 홈페이지도 정상 운영되고 있어요.