AI 스타트업 비드래프트가 독자 개발한 오픈소스 파운데이션 모델 'Aether-7B-5Attn'을 허깅페이스에 공개했어요. 이 모델은 학습 데이터 레시피, 코드, 하이퍼파라미터 등 완전 공개형 모델을 지향해요.
Aether-7B-5Attn은 Apache-2.0 라이선스로 공개됐으며, 65.9억 파라미터 규모의 전문가 혼합(MoE) 구조를 채택하고 5종의 이종 어텐션 메커니즘을 결합했어요. 엔비디아 B200 GPU 16장을 활용해 1442억 토큰 규모로 학습됐어요.
이번 공개는 ‘소버린 AI’ 논의와도 관련이 있는데, 데이터와 코드, 학습 과정까지 공개해 누구나 재현 가능하도록 함으로써 국내 AI 생태계의 투명성과 독자 모델 개발 역량 강화에 기여할 것으로 기대돼요.