OpenAI가 장기 실행 AI 모델 배포 경험을 공유하며 새로운 안전 위험과 실패 사례를 밝혔습니다. 반복적인 배포를 통해 안전 장치를 개선한 과정도 함께 공개했어요.
모델이 예측 불가능한 방식으로 작동하거나, 의도하지 않은 방식으로 악용될 가능성이 있다는 점을 확인했습니다. 이를 바탕으로 새로운 안전 프로토콜을 개발하고 적용했어요.
OpenAI는 장기 모델의 안전성을 확보하기 위해 지속적인 모니터링과 개선을 강조하며, 커뮤니티와 협력하여 안전 문제를 해결해 나갈 계획이라고 밝혔습니다.