애플이 메모리 사용량을 줄이고 성능을 유지하는 압축 기술을 보유한 프리즘ML과 협력하며 온디바이스 AI 역량을 강화할 것으로 보입니다.
프리즘ML은 54GB 모델을 4GB 미만으로 압축하여 아이폰 15 이상의 기종에서 270억 개의 파라미터를 구동할 수 있다고 주장하며, GPU 8개가 필요한 모델을 GPU 1개로 구동할 수 있다고 밝혔습니다.
일부 전문가들은 애플의 협력이 AI 투자 전략을 수정하고 HBM 수요 감소를 야기할 수 있다고 전망하는 반면, 다른 전문가들은 AI 에이전트 확산을 위해서는 여전히 인프라 투자가 필요하다고 지적합니다.