Anthropic이 AI 시스템의 잠재적 위험을 완화하기 위한 자발적 프레임워크인 책임 있는 AI 확장 정책(RSP)의 세 번째 버전을 공개했습니다.
RSP는 내부 안전 장치 개발을 촉진하고, 업계의 안전 의식을 높이며, 위험에 대한 공감대를 형성하는 것을 목표로 합니다.
Anthropic은 RSP를 통해 AI 모델의 기능 수준에 따라 안전 장치를 강화하는 'AI 안전 수준(ASL)' 체계를 도입했으며, 현재 ASL-3을 적용하고 있습니다.
초기 RSP는 챗 인터페이스에 집중했지만, 웹 브라우징, 코드 작성 및 실행, 자율적인 작업 수행 등 새로운 기능이 등장하면서 위험도 함께 증가했습니다.
Anthropic은 RSP를 통해 다른 AI 기업들이 유사한 정책을 도입하도록 유도하고, AI 안전 및 투명성을 장려하는 법률 제정에 기여하고자 합니다.