사용자가 명령줄 기반 AI 서비스에 간단한 래퍼를 씌워 크라우드 소싱 방식으로 LLM을 구축하는 아이디어를 제안했어요. 사용자의 입력과 출력을 수집하여 대규모 데이터 세트를 만들고, 게이머의 GPU를 활용해 분산 학습하는 방식도 고려해볼 수 있다고 설명했어요. 모델 공개를 위한 중앙 관리 주체의 필요성과 신뢰 구축이 중요하다고 짚었어요.
현재 AI 코딩/비호이스트 앱에 사용되는 입력과 출력을 수집하여 데이터 세트를 구축하는 방식은, 기존 인프라를 활용할 수 있어 실현 가능성이 높다고 해요. 학습 속도가 중요하지 않다면, 게이머의 GPU를 활용하여 분산 학습하는 방법도 고려할 수 있다고 제안했어요.
작은 모델부터 시작하여 신뢰를 구축하고 점차 규모를 키워나간다면, 커뮤니티 기반의 오픈 소스 LLM 개발이 가능할 것이라고 전망했어요.