Liquid AI가 80억 파라미터, 1억 파라미터 MoE 모델인 LFM-2.5를 공개했어요. 이 모델은 38조 토큰으로 학습됐으며, 텍스트와 코드를 모두 처리할 수 있어요. Liquid AI는 이 모델을 오픈소스로 공개하여 연구 및 상업적 용도로 활용할 수 있도록 지원할 예정이에요.
LFM-2.5는 8비트 양자화 시 7GB의 메모리만 사용하며, 다양한 하드웨어에서 실행 가능하도록 설계됐어요. Liquid AI는 이 모델을 통해 MoE 모델의 효율성과 접근성을 높이는 데 기여할 것으로 기대하고 있어요.
연구자들은 LFM-2.5를 활용하여 새로운 자연어 처리 기술을 개발하고, 다양한 분야에 적용할 수 있을 것으로 예상돼요. Liquid AI는 앞으로도 혁신적인 모델을 개발하여 AI 생태계 발전에 기여할 계획이에요.