Anthropic이 AI 시스템 개발에 다양한 관점을 반영하기 위해 종교, 철학, 윤리 분야 전문가들과의 대화를 시작했어요. 이는 AI가 사회에 미치는 영향에 대한 깊이 있는 이해를 목표로 합니다.
Claude의 가치관과 행동을 형성하는 데 중요한 역할을 하는 헌법의 내용 개선을 위해 다양한 분야의 의견을 수렴하고 있으며, AI의 도덕적 형성과 관련한 연구를 진행 중이에요.
초기 대화에서 뇌과학과 도덕 형성을 연구하는 학자들과의 세션에서, AI 모델의 윤리적 행동을 돕기 위해 '안전한 타인' 역할을 하는 도구를 활용하는 실험을 진행했고, 내부 평가에서 비정렬 행동률이 감소하는 결과를 확인했어요.