연구진이 장문 컨텍스트 활용의 문제점을 해결하기 위해 자체 가이드 테스트 시간 학습(S-TTT) 방법을 제안했어요. S-TTT는 모델이 스스로 학습할 증거 구간을 선택하고, 해당 구간에만 학습을 적용하는 방식입니다.
S-TTT는 Qwen3-4B-Thinking-2507과 Llama-3.1-8B-Instruct 모델의 정확도를 최대 15% 향상시켰어요. LongBench-v2와 LongBench-Pro 벤치마크에서 성능 향상을 확인했습니다.
기존 TTT 방식이 무작위 구간 학습으로 성능 저하를 일으키는 반면, S-TTT는 모델이 직접 중요 구간을 선택하여 학습 효율을 높입니다.