JDONE-Research가 Gemma 4 31B 모델을 기반으로 MoE(Mixture of Experts) 아키텍처를 적용한 AIOne-Agent-52B-A36B-it 모델을 공개했어요.
사용자가 Gemma 4 31B 모델을 MoE로 변환하는 훈련 스크립트를 ChatGPT Pro로 제작하여 RunPod에서 24시간 동안 실행하는 실험을 진행 중이에요.
MoE 아키텍처를 활용하여 Gemma 4 31B 모델의 지식을 업데이트하고 성능을 향상시키는 가능성을 탐색하고 있으며, 경험 많은 사용자의 피드백을 환영해요.