llama.cpp에서 sm-tensor 옵션 사용 시, 토큰 디코딩 과정에서 불필요한 정규 표현식 재컴파일을 줄이는 수정 사항이 발표됐어요. 이전에는 각 토큰의 텐서마다 정규 표현식을 반복적으로 재컴파일했지만, 이제는 이를 캐싱하여 CPU 사용량을 줄였어요. 이 수정은 디코딩 스레드의 성능을 향상시키는 데 기여합니다.