Pulse · AI 뉴스

OpenAI o1 및 o1-mini 출시 전 안전 검증 결과 보고

OpenAI · 2024-12-05

OpenAI는 o1과 o1-mini 모델 출시 전 안전성을 확보하기 위해 외부 레드 팀 테스트와 최전선 위험 평가를 진행했어요.

준비 상태 프레임워크에 따라 모델의 잠재적 위험을 평가하고 완화하는 과정을 거쳤다고 밝혔어요.

이번 보고서는 해당 안전 검증 작업의 상세 내용을 담고 있으며, 모델 출시 전 안전에 대한 OpenAI의 노력을 보여줘요.

##모델안전##OpenAI##레드팀
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기