LLM의 컨텍스트 창은 스마트 구간과 주의력이 떨어지는 둔한 구간으로 나뉩니다. 약 100k 토큰 주변에서 성능 저하가 시작되며, 광고된 컨텍스트 창 크기와 실제 작업 가능 범위에 차이가 있습니다. 모델의 성능을 제대로 활용하려면 컨텍스트 창 크기를 신뢰하지 말고, 실험을 통해 최적의 구간을 찾아야 합니다.