새로운 하드웨어를 얻은 사용자를 위해, 단순히 모델을 다운로드하고 벤치마크하는 대신 '포스트 트레이닝'을 제안합니다. 포스트 트레이닝은 기업의 사기 탐지, 데이터 분석, 영업 지원 등 다양한 실무 문제 해결에 활용됩니다. Qwen 모델은 지식이 많아 포스트 트레이닝이 어렵지만, Llama 모델은 지식이 부족하여 학습이 용이합니다. RFT(강화 학습)는 현재 초기 단계로, 빠른 추론과 가중치 업데이트를 위한 특수 환경 구축이 필요합니다.
포스트 트레이닝은 오픈 소스 LLM 덕분에 가능하며, OpenAI의 SFT API 종료와 RFT API의 높은 비용으로 인해 경쟁이 치열하지만 수익성이 높은 기회입니다. 데이터 혼합, 모델 조합, 빠른 반복을 위한 엔지니어링 기술이 중요하며, 개인도 데이터센터 규모의 환경을 구축하여 빠르게 반복할 수 있습니다.
OpenAI의 SFT API 종료와 RFT API의 높은 비용으로 인해, 오픈 소스 LLM을 활용한 맞춤형 포스트 트레이닝이 유망한 사업 기회가 될 수 있습니다.