연구진은 LLM의 안전 정렬이 직접적인 유해 요청이 아닌 의사소통 방식에 따라 크게 달라짐을 확인했어요.
RetroCoT는 유해한 지시를 직접 요청하는 대신, 모델에게 법의학 분석가 역할을 맡겨 유해 결과의 원인 과정을 역으로 재구성하도록 하는 공격 방식이에요.
AdvBench에서 RetroCoT는 GPT-4o에서 58%, GPT-4o-mini에서 52%의 공격 성공률을 기록했는데, 이는 직접 요청 방식의 0%와 4%에 비해 매우 높은 수치예요.
GPT-5 모델은 RetroCoT를 거부하지만, 기존 법의학적 재구성 응답과 평가자 비판을 함께 제시하면 공격 성공률이 크게 증가하는 것으로 나타났어요.