연구진은 54개의 모델 유기체(MO)를 제작하여 훈련 방법론에 따라 해석 가능성이 크게 달라짐을 확인했어요. 표준적인 훈련 방식보다 현실적인 훈련 방식이 오히려 해석 가능성을 낮출 수 있다는 결과가 나왔어요.
MO는 원치 않는 행동을 보이는 언어 모델로, 해석 가능성 기법을 평가하는 데 사용되지만, 현재 MO는 주로 행동 기록이나 합성 문서를 활용한 사후 지도 학습으로 만들어져요.
연구 결과, 모델 아키텍처, 훈련 데이터 생성 파이프라인에 따라 해석 가능성이 달라지며, 목표 행동의 강도를 조절해도 상당한 차이가 남아있음을 보여줘요.