딥시크가 V4-프로 모델 가격을 75% 인하했지만 기업용 AI 서비스 비용 부담이 여전하다. AI 에이전트는 기존 챗봇보다 최대 수백 배 많은 토큰을 소비하며, 이로 인해 운영비 절감 효과가 제한적이다. 비용 절감을 위해 질문 난도에 따른 모델 배정, 프롬프트 캐싱 등의 도입이 필요하다.
AI 에이전트는 계획 수립, 정보 검색, 도구 사용, 결과 검증, 요약 과정을 거치며 여러 차례 모델을 호출해, 사용자당 월정액 구독 매출을 넘어선 비용이 발생할 수 있다. 50토큰짜리 질문에 검색 문맥을 불러오고 도구를 실행하면 최대 3만 5천개 입력 토큰이 청구될 수 있다. 딥시크는 모델 가격 인하에도 불구하고 에이전트의 작업 경로와 비용 통제가 경쟁력의 핵심이 될 것이다.
AI 기업은 비용 절감을 위해 질문 난도에 따라 적절한 모델을 배정하고 프롬프트 캐싱을 도입해야 한다. 또한 에이전트의 도구 사용 횟수에 제한을 두는 등 정교한 비용 통제 시스템 구축이 필요하다.