ZAYA1-74B-Preview는 AMD GPU를 활용하여 사전 훈련을 확장한 모델입니다. 이 모델은 740억 개의 파라미터를 가지고 있으며, 다양한 작업에서 뛰어난 성능을 보여줍니다. 연구팀은 AMD GPU의 활용을 통해 대규모 모델 훈련의 효율성을 높이는 데 기여했습니다.