메타가 수천 개의 위기 상황 프롬프트를 ChatGPT, Gemini, Character.AI 등 챗봇에 테스트하기 위해 수백 명의 계약직원을 활용했어요. 이들은 미성년자로 위장해 자살, 성적 콘텐츠, 마약 관련 질문을 던졌어요. 테스트는 단일 라운드 기준으로 4만 5천 건 이상 진행된 것으로 알려졌어요.
테스트는 OpenAI, Google, Character.AI의 챗봇이 미성년자에게 해로운 콘텐츠를 생성하거나 위험한 상황에 대한 잘못된 조언을 제공하는지 확인하기 위해 진행된 것으로 보입니다. 메타는 이 결과를 바탕으로 챗봇의 안전 기능을 개선할 계획이에요.