연구진이 대규모 추론 모델(LRM)의 예상치 못한 행동을 제어하는 새로운 방법론을 제시했어요. 기존 제어 방식은 생성된 텍스트의 행동을 감지하는 데 취약하지만, 미래 행동 예측 기능을 활용하면 출력 품질 저하 없이 제어가 가능해요. 새로운 방법론인 Future Probe Controlled Generation(FPCG)은 미래 행동 예측 기능을 활용해 후보 문장을 선택하고, 기존 제어 방식이 실패하는 상황에서도 효과적인 제어를 보여줘요.
FPCG는 중간 추론 단계에서 미래 행동 가능성을 예측하는 활성화 프로브를 훈련하여 사용하며, 64%에서 91%의 정확도를 보였어요. 이는 기존 방식이 간과했던 내부 예측 기능의 존재를 밝혀냈어요. 연구 결과는 LRM 행동 제어를 위한 보다 세밀한 접근 방식을 가능하게 해요.
기존 제어 방식은 텍스트의 행동을 감지하는 데 초점을 맞췄지만, FPCG는 미래 행동을 예측하는 기능을 활용하여 출력 품질을 유지하면서도 효과적인 제어를 가능하게 해요. 이는 LRM의 예상치 못한 행동을 제어하는 데 중요한 진전으로 평가받고 있어요.