Anthropic이 개발한 SmallCode는 64~128K 컨텍스트 윈도우를 가진 소형 모델에 최적화된 코딩 에이전트입니다. 기존 AI 코딩 도구와 달리, 제한된 컨텍스트 환경에서도 효율적으로 작동하도록 설계됐습니다.
사용자 메시지 처리 시, SmallCode는 먼저 정규식 분류기를 통해 메시지의 명확성을 검사하고, 도구 라우팅 시스템을 통해 메시지 내용을 분석하여 필요한 도구만 프롬프트에 포함시킵니다. 이를 통해 불필요한 토큰 사용을 줄입니다.
SmallCode는 멀티스텝 작업에서 모델의 기억력 저하를 방지하기 위해 계획 추적 기능을 사용하며, 계획을 주기적으로 재주입하여 작업 흐름을 유지합니다. MarrowScript 컴파일 레이어는 로깅, 메트릭, 사가 흐름 실행 등 핵심 인프라 기능을 담당합니다.