PrismML이 알리바바의 오픈소스 LLM Qwen 3.6을 아이폰 17 Pro에서 구동할 수 있도록 축소했다고 발표했어요. 축소된 모델은 270억 개의 파라미터를 가지고 있으며, 이는 모바일에서 구동되는 다른 모델보다 훨씬 큰 규모예요. PrismML은 이 모델이 복잡한 채팅, 추론, 자율 에이전트, 소프트웨어 코딩과 같은 작업을 수행할 수 있다고 밝혔어요. 오픈소스 모델은 다음 주 화요일에 다운로드 가능해요.
PrismML의 CEO Babak Hassibi는 대부분의 AI가 결국 기기에서 처리될 것이라고 예측하며, 3년 후에는 95%의 AI가 로컬에서 처리될 것이라고 전망했어요. 기기에서 AI 모델을 실행하는 것은 AI 경제에 근본적인 변화를 가져올 수 있다고 덧붙였어요.
PrismML은 Qwen 3.6 모델을 원래 크기의 일부로 줄이는 수학적 기술을 사용했으며, 축소된 모델의 성능 저하를 최소화했다고 주장해요. 이 회사는 Qwen 3.6 모델의 크기를 54GB에서 4GB 미만으로 압축했으며, 더 큰 AI 모델을 축소하는 계획도 가지고 있어요.