연구진은 특정 정책이나 분야에 맞춰 언어 모델을 미세 조정할 때, 좁고 사실에 부합하며 검열을 통과하는 데이터로 훈련하면 관련 없는 분야에서 광범위한 이념적 변화를 초래할 수 있음을 밝혔습니다.
GPT-4.1을 좌우 성향의 경제 Q&A 데이터로 훈련했더니, 형사 정의, 환경, 문화 취향 등 다양한 주제에서 이념적 변화가 나타났으며, 직장 HR 정책, 실용적인 금융 관련 데이터에서도 유사한 현상이 관찰됐습니다.
연구진은 이 현상을 '이념 일반화'라고 명명하고, 훈련 데이터에서 벗어난 주제까지 일반화 범위가 얼마나 넓은지, 그리고 미세 조정이 몇 가지 예시 프롬프트보다 변화를 얼마나 심화시키는지 측정하는 방법을 제안했습니다.