German SooFi 팀이 오픈소스 MoE (Mixture-of-Experts) 하이브리드 모델 'Soofi S 30B-A3B'를 공개했어요. 이 모델은 독일어와 영어 데이터를 기반으로 훈련됐어요. Mamba와 Transformer 구조를 결합해 효율성을 높였어요.
Soofi S 30B-A3B는 연구 및 상업적 용도로 자유롭게 사용할 수 있으며, 관련 코드는 GitHub에서 확인할 수 있어요. 모델의 상세 정보 및 사용 방법은 프로젝트 페이지에서 제공돼요.