연구진은 LLM의 장문 컨텍스트 활용도를 높이는 자기 지도 테스트 시간 학습(S-TTT) 방법을 제안했어요. S-TTT는 모델이 학습할 증거 구간을 스스로 선택하고, 해당 구간에만 언어 모델링 학습을 적용하는 방식이에요.
LongBench-v2와 LongBench-Pro 벤치마크에서 Qwen3-4B-Thinking-2507과 Llama-3.1-8B-Instruct 모델의 정확도를 최대 15% 향상시켰어요.
기존 테스트 시간 학습(TTT) 방식은 전체 장문 컨텍스트에 적용하거나 무작위 구간을 샘플링하여 노이즈가 심했지만, S-TTT는 학습 구간 품질에 민감한 TTT의 한계를 극복했어요.