연구진은 모델의 논리적 판단이 학습된 맥락에 따라 어떻게 변하는지 분석하기 위해 삼단논법 추론 벤치마크에 소프트 프리픽스를 추가했어요. 소프트 프리픽스는 불투명한 연속 벡터로, 논리적 형태와 인터페이스 변화에 따른 영향을 관찰하여 모델의 논리적 안정성 한계를 파악했어요. Qwen3.6-35B MoE, Qwen3-8B, Gemma 4 31B 모델에서 학습된 프리픽스는 올바른 답변을 왜곡하고, 새로운 형태와 인터페이스 변화에도 효과적이었어요.
Qwen3.6 MoE 모델에서 프리픽스 적용 시 답변 전환율은 72%에서 90% 사이로 나타났으며, Gemma 모델에서는 54%에서 56%의 전환율을 보였어요. 이는 무작위 프리픽스보다 37%에서 99% 높은 수치예요.
진단 테스트 결과, 성공적인 소프트 프리픽스의 주요 효과는 특정 답변을 선호하는 경향이며, 모델별로 논리적 안정성에 차이가 있음을 확인했어요. Qwen 모델은 단순 점수 모델로 답변 전환을 예측하는 데 효과적이었지만, Gemma 모델은 전반적인 응답이 더욱 정확하게 근사되었어요.
연구 결과는 학습된 맥락이 모델의 논리적 판단에 큰 영향을 미치며, 모델별로 논리적 안정성에 차이가 있음을 시사해요.