구글 딥마인드가 기존 AI 학습의 제약이었던 동기화 문제를 해결하는 새로운 학습 아키텍처 '디커플드 디로코(Decoupled DiLoCo)'를 공개했어요.
디커플드 디로코는 비동기·분산 방식으로도 안정적인 대규모 모델 학습이 가능하도록 설계되었으며, GPU나 TPU가 동시에 같은 속도로 계산할 필요가 없어요.
이 기술은 수천~수만 개의 GPU/TPU를 활용하는 대형언어모델(LLM) 학습에 적용될 수 있으며, 학습 효율성을 크게 향상시킬 것으로 기대돼요.