회로 추출은 특정 모델 구성 요소 집합을 식별하여 제거해도 목표 동작을 유지하며, 이 회로는 해당 동작의 메커니즘으로 해석됩니다. 하지만 이러한 해석은 불확실하며, 회로 추출 주장은 보고된 회로와 두 회로를 비교하는 방식에 따라 달라집니다.
Lean 전술 예측 벤치마크에서 회로 추출 주장의 불확실성을 확인했는데, 이는 증명 규칙이 고정되어 있고 표면 형태가 무작위로 변경될 수 있기 때문입니다.
밀집 및 가중치 희소 체크포인트에서 추출된 객체를 보고하는 방식(예측 유지 회로, 주변 읽기/쓰기/라우팅 구조 포함 그래프, 최소 서브그래프)과 어텐션 헤드의 쿼리와 키를 함께 또는 분리하여 표현하는 방식에 따라 정확도가 달라집니다.
회로 추출 주장은 보고되는 회로, 가지치기 임계값, 회로 비교 수준을 명시해야만 명확하게 정의될 수 있습니다. 이러한 요구 사항을 회로 추출 연구의 보고 방식으로 정리해야 합니다.
복합 증명에서 RL을 사용했을 때 가장 큰 정확도 향상은 원자 회로를 넘어선 구조를 사용할 때 나타났습니다.