연구진은 30단계 재귀 LLM 루프에서 주입된 텍스트의 양이 루프를 다른 곳으로 이동시키는 데 필요한 양과 그 이동이 지속되는지 여부를 연구했습니다.
12,000자 꼬리 클리핑 하에서, 목적지 일관성 지속성은 약 16%로 정점에 달하고, 유지된 출처 분지 탈출은 약 36%에서 400 용량에서 정점에 달하며, 어느 것도 50%를 넘지 않습니다.
연구진은 균질한 교란 제어 실험을 통해 목적지 일관성 지속성의 고용량 비선형 감소가 교란 이질성의 원인이 아님을 증명했으며, 메커니즘은 아직 해결되지 않았습니다.