TokenMizer는 LLM의 장기 작업 시 맥락 창의 한계를 극복하기 위해 세션 기록을 그래프 형태로 관리하는 오픈소스 프록시 시스템이에요.
14가지 노드 타입과 7가지 엣지 타입으로 구성된 그래프 스키마를 사용하며, 8단계 압축 파이프라인으로 토큰 오버헤드를 줄여요.
5개 도메인의 21개 세션을 평가한 결과, TokenMizer는 기존 방식보다 2배 작은 크기의 복구 블록을 생성하며, 의사 결정 재현율을 9~17% 향상시켰어요.
특히, TokenMizer는 단순히 기술 언급 여부를 저장하는 것이 아니라, 그 이유까지 보존하여 작업 재현율, 의사 결정 재현율, 파일 재현율을 높여요.