본 논문은 배치 기반 추적 증류에서 배치 간 상반된 피드백을 받는 메모리 연산 문제를 해결하기 위해 Marginal Advantage Accumulation (MAA)을 제안합니다.
MAA는 배치 간 차등 신호를 생성하여 비교 가능성을 확보하고, EMA를 통해 연산별 서명 증거를 누적하며, 의미적 동일성 병합을 통해 배치 간 추적성을 보장합니다.
MAA는 4개 벤치마크, 4개 대상 모델에서 16개 설정 중 14개에서 최고 성능을 달성하며, 기존 배치 수준 증류보다 우수한 성능을 보였습니다.