Cafe24가 다양한 LLM 모델을 통합 관리하는 'LLM Router'를 공개했어요. Claude, Gemini, Qwen, Llama 등 100개 이상의 모델을 하나의 API로 호출할 수 있어요. OpenAI API와 호환되므로 기존 코드를 수정할 필요가 없다고 합니다.
LLM Router는 Provider별 API 명세, 재시도 로직, 스트리밍 포맷을 통합하여 개발 생산성을 높여줘요. 여러 모델을 쉽게 전환하고 테스트할 수 있어 비용 효율성도 높일 수 있습니다.
Cafe24는 LLM Router를 통해 기업들이 LLM 기술을 더 쉽고 빠르게 도입할 수 있도록 지원할 계획이라고 밝혔습니다.