연구진은 재귀 학습 시스템에서 모델 내부 분포가 점진적으로 수축하는 '침묵하는 붕괴' 현상을 발견했습니다. 이는 표준 성능 지표로는 감지하기 어렵지만, 예측 엔트로피, 표현 다양성, 꼬리 커버리지의 변화를 통해 예측할 수 있습니다. 새로운 MTR 프레임워크는 이러한 징후를 감지하고 학습 강도를 조절하여 데이터 접근이 제한적인 상황에서도 붕괴를 예방합니다.
침묵하는 붕괴의 시작은 앵커 엔트로피 수축, 표현 드리프트 고정, 꼬리 커버리지 침식이라는 세 가지 전조 현상으로 나타납니다. 이 신호는 표준 검증 지표가 악화되기 전에 여러 세대 동안 나타나 조기 경보를 제공합니다.
MTR 프레임워크는 트래jectory 통계를 모니터링하고 신뢰도를 추정하여 학습 강도를 조절합니다. 이를 통해 원본 데이터에 접근하지 않고도 조기 경고를 제공하고 침묵하는 붕괴를 방지할 수 있습니다.