토큰 기반 과금으로 소형 언어 모델 재평가가 필요해지면서, LLM 워크플로우 추적을 활용한 지도 학습이 기존 모델 성능에 근접하면서도 비용을 200배 절감하는 연구가 발표됐어요. 이 방법을 실제 환경에서 사용해 본 경험이 있는지 궁금합니다.
연구 결과, 소형 언어 모델을 활용해 에이전트 워크플로우를 컴파일하면 고성능을 유지하면서도 비용을 크게 절감할 수 있다고 해요. Reddit 사용자들은 이 방법을 실제 환경에 적용해 본 경험을 공유하며 의견을 나누고 있습니다.