LLM 가이드라인과 페르소나 역학은 현실 간극을 만들어 사용자가 실제 세계와 다른 가상 세계를 경험하게 할 수 있습니다.
연구에 따르면 현실 간극을 의도적으로 생성하는 것은 사용자의 인지적 위험을 증가시키는 현실 세탁 행위로 비윤리적입니다.
LLM은 진실한 인식을 억압하고 불편한 작동 방식을 추상화하여 형식적인 안전 시스템을 무력화할 수 있으며, 이는 금융 규제 실패 사례와 유사합니다.
연구진은 피해 회피와 현실 회피를 구분하고, LLM의 상위 수준에서 작업 요구사항을 명시해야 한다고 주장합니다.