CapitalOne Research가 대규모 데이터베이스 연동 시 오픈 모델로 비용과 지연 시간을 획기적으로 줄일 수 있음을 입증했어요. 독점 API 기반 시스템은 토큰당 비용 모델로 인해 $10,000 이상이 소요될 수 있어 연구와 배포를 방해해요. 16GB VRAM에서 실행되는 양자화된 오픈 모델은 독점 모델 성능을 능가하며 비용은 1/10 수준이에요.
BlendSQL v0.1.0 프레임워크에 통합하여 독점 API 대비 전체 비용을 390배, 지연 시간을 3.8배 줄일 수 있었어요. 코드는 GitHub에서 공개됐어요.
연구 결과는 대규모 데이터베이스 연동에 독점 LM API가 필수적이라는 기존 가정을 뒤집어요.