mahiatlinux가 Apple Silicon에 최적화된 로컬 AI 챗 앱 AeroLLM을 오픈소스했어요. MLX 백엔드를 사용하여 네이티브 실리콘 추론을 지원합니다. Hugging Face에서 모델을 다운로드하고 API 엔드포인트도 제공돼요.
다운로드한 모델은 RAM 용량에 따라 추천받을 수 있으며, 현재 Apple Developer 멤버십이 없어 앱이 notarized되지 않았어요. 설치 후 안전하게 실행하는 방법을 안내하고 있어요.
AeroLLM은 텍스트 음성 변환, 음성 텍스트 변환, 대규모 언어 모델을 지원하며, 실험 및 캐주얼 사용자에게 유용할 것으로 기대돼요.