기업들이 생성형 인공지능(AI) 활용에 따른 막대한 토큰 비용 관리에 어려움을 겪고 있어요. AI 코딩 도구 사용량이 늘면서 월 1억 원에 달하는 비용이 발생하기도 합니다.
토큰은 AI 모델이 텍스트를 처리하는 기본 단위로, 프롬프트 길이, 불러오는 문서 분량, 반복 수정 횟수에 따라 비용이 달라져 예측이 어렵습니다.
가트너는 2028년 AI 코딩 비용이 개발자 연봉을 넘어설 수 있다고 전망하며, 기업들은 사용량 관리 체계를 정비하고, 부서별 AI 사용량 모니터링을 강화해야 한다고 조언합니다.