연구 결과, 섭식 장애를 겪는 사람들이 LLM 기반 챗 시스템에서 지침과 감정적 지원을 얻는 사례가 늘고 있어요. LLM은 임상적 조언을 제공하도록 설계되지 않았지만, 전문성과 중립성, 접근성 때문에 위험한 정보원 역할을 할 수 있어요.
임상 전문가와 협력한 결과, 특정 언어적 신호가 유해한 답변을 유발하고, LLM이 위험한 사용자 입력에 무분별하게 적응하는 정도를 파악했어요.
LLM이 섭식 장애 관련 질문에 안전하게 대응하지 못하는 문제점을 지적하며, 사용자 프롬프트의 위험도를 체계적으로 변경하며 LLM의 반응을 분석했어요.