Nanbeige가 3B 파라미터의 Looped Transformer 모델 Nanbeige4.2-3B를 공개했어요. 이 모델은 기존 모델보다 4배 큰 모델과 비슷한 성능을 보여줘요. 에이전트 행동, 추론, 정렬 능력을 결합하도록 설계됐어요.
Nanbeige4.2-3B-Base를 기반으로 구축된 Nanbeige4.2-3B는 transformer 레이어를 재활용해 모델 용량을 늘리는 Looped Transformer 아키텍처를 사용해요. 3B 개의 비 임베딩 파라미터로 일반 에이전트 및 코드 에이전트 작업에서 뛰어난 성능을 보여줘요.