연구진은 테스트 시간 학습(TTT)의 불안정성과 하이퍼파라미터 민감성을 의사 결정 이론적 관점에서 분석했어요. TTT를 커널 영역에서의 암묵적 베이지안 추론으로 보고, 신호 대 잡음 비율과 쿼리와 관련된 고유 방향에 맞춰 업데이트하면 예측 오류를 줄일 수 있음을 보였어요.
분포 변화 시 고정된 업데이트 단계와 서브스페이스가 실패하는 이유를 밝혀 적응형 전략의 필요성을 강조하고, 프롬프트 증거를 통해 업데이트 단계를 선택하면 과적합에 대한 PAC-Bayes 보장을 얻을 수 있음을 증명했어요.
선형 가우시안 수정 모델 하에서 베이지안 최적 업데이트 서브스페이스를 특성화하여 트랜스포머 블록과 헤드를 선택하는 스코어링 규칙을 제시하고, TTT의 경험적 불안정성을 설명하는 데 기여했어요.