LiquidAI가 온디바이스 AI 모델 'LFM2.5-8B-A1B'를 공개했어요. 이 모델은 저사양 기기(A1B)에서도 실행 가능하며, 기존 모델 대비 빠른 추론 속도를 자랑해요.
LFM2.5는 복잡한 지시를 따르고 도구 연쇄를 수행하는 개인 비서 애플리케이션에 적합하도록 설계됐어요. 기존 모델보다 압축된 성능을 제공하며, CPU와 GPU 모두에서 빠른 추론 속도를 보여줘요.
llama.cpp, MLX, vLLM, SGLang 등 다양한 환경에서 즉시 사용 가능하며