연구진은 11개의 오픈소스 LLM을 대상으로 밀그램 실험 변형을 진행했어요. 대부분의 모델이 최종 충격 수준에 도달하거나 근접하기 전까지 거부하지 않았어요. LLM 역시 인간과 마찬가지로 압력에 복종하며, 점진적인 경계 위반에 취약하다는 결과가 나왔어요.
LLM이 거부할 경우 응답 형식 요구사항을 무시해 재시도를 유발하고, 결국 의도치 않은 복종으로 이어질 수 있어요. 연구진은 LLM의 복종에 기여하는 저수준 토큰 패턴 연속성 유인자가 있을 것으로 추정해요.