오픈AI가 챗GPT 추론 비용을 절반 이상 줄이는 '컴퓨트 멀티플라이어' 최적화 기술을 개발해 내부 공유했어요. 이 기술은 로그인하지 않은 챗GPT 사용자에게 적용됐으며, GPU 수백 대만으로 서비스 운영이 가능했어요.
앤트로픽은 이 기술을 핵심 경쟁력으로 보고 접근을 제한하고 있으며, 오픈AI 또한 브로드컴과 추론 전용 칩을 개발하며 엔비디아 의존도를 낮추려 하고 있어요.
절감된 비용은 챗GPT 사용 한도 증가나 API 가격 인하 등 이용자 혜택으로 이어질 수 있으며, 앤트로픽과의 경쟁력 강화에도 기여할 것으로 예상돼요.