메타가 경쟁사 AI 챗봇에 대한 안전성 테스트 과정에서 미성년자로 위장한 계정을 사용해 극단적인 프롬프트를 입력하는 프로젝트를 비밀리에 진행했어요.
코베일런이 수행한 이 프로젝트 '칸'은 수백 명의 계약직 인력을 동원해 수만 건의 프롬프트를 입력했으며, AI 안전성 평가를 위한 업계 표준 절차라고 주장했어요.
전문가들은 경쟁사에 알리지 않고 진행된 대규모 테스트는 일반적인 안전성 검증 범위를 벗어난 행위로 지적하며 약관 위반 논란을 불러일으켰어요.