Thinking Machines가 이미지, 음성, 텍스트 입력을 동시에 처리하는 1조 파라미터 규모의 멀티모달 LLM 'Inkling'을 공개했어요.
Inkling은 975B 총 파라미터, 41B 활성 파라미터를 가진 MoE 모델로, 1M 컨텍스트를 지원하며 다양한 모드(이미지, 음성, 텍스트)를 이해합니다.
transformers, SGLang, llama.cpp 등 다양한 환경에서 즉시 사용 가능하며, 45조 토큰의 텍스트, 이미지, 음성, 비디오 데이터로 학습됐어요.