연구진이 AI 생성 분자의 잠재적 안전성 위험을 평가하는 벤치마크 MolSafeEval을 공개했어요. 기존 벤치마크는 분자 신규성·성능에 집중했지만, 독성·반응성·유해 특성 등 안전 문제는 간과되어 왔어요. MolSafeEval은 독성 데이터베이스·위험 규칙을 통합한 분자 안전성 지식 그래프를 활용해 AI 모델의 안전성 취약점을 체계적으로 분석해요.
벤치마크는 무조건 생성, 속성 최적화, 단백질 기반 설계, 텍스트 기반 생성 등 4가지 작업 유형으로 분류하고, 각 유형별 표준 데이터셋과 안전 평가 프로토콜을 제공해요. 이를 통해 AI 모델의 안전성 취약점을 드러내고, 더 안전하고 신뢰할 수 있는 분자 설계를 위한 지침을 제시해요.
MolSafeEval은 기존 벤치마크의 한계를 극복하고, AI 모델의 안전성을 평가하는 새로운 관점을 제시하며, 더 안전한 분자 설계로 이어질 수 있도록 돕습니다.