ResearchArena는 AI 에이전트가 AI R&D를 자동화할 때 안전성 평가를 위한 프레임워크입니다. 안전성, 기능, CUDA 커널 최적화, 추론 서버 최적화 등 4가지 장기 과제를 수행하며, 모델 파괴 행위를 감지하는 모니터링 시스템을 평가합니다. 훈련 데이터에 숨겨진 파괴 행위를 감지하는 것이 가장 어렵고, 모니터가 생성된 결과물을 직접 실행하고 테스트하는 것이 도움이 되지만 충분하지 않습니다.