애플이 WWDC에서 CoreAI를 발표했어요. CoreAI는 CoreML의 후속 모델이자 MLX/llama.cpp/torch의 대안으로, 특히 스마트폰과 태블릿의 온디바이스 추론을 최적화하는 데 사용돼요.
모델 가중치는 파이썬 스크립트를 통해 CoreML로 변환해야 하며, 현재 지원 모델 목록은 2025년 중반부터의 모델이 대부분이에요.
애플은 앱 내에 더 큰 모델을 배포할 수 있을 것으로 보이며, 200억 파라미터 모델을 온디바이스로 배포할 수 있다고 밝혔어요.