개발자가 ESP32 마이크로컨트롤러에서 2890만 파라미터 LLM을 실행하는 방법을 공유했어요. 모델은 4비트 양자화되어 있으며, 16MB PSRAM을 사용해요. 이 프로젝트는 임베디드 AI 개발에 새로운 가능성을 보여줘요. ESP32-AI 프로젝트는 GitHub에서 공개되어 있으며, 다양한 모델과 프롬프트 엔지니어링 기법을 실험할 수 있도록 지원해요. 저전력 장치에서 LLM을 실행하는 데 관심 있는 개발자들에게 유용한 자료가 될 수 있어요.