연구진이 AMD XDNA NPU를 위한 FlashAttention 오픈소스 구현체 STEEL을 공개했어요. STEEL은 데이터 흐름 방식을 통해 공간적 병렬성을 효율적으로 활용하고, 온칩 메모리를 최적화합니다.
STEEL은 인과 마스크로 인한 로드 불균형을 해결하기 위해 NPU 배열에 희소성 인식 파이프라인을 배치하여 동기화 오버헤드를 줄이고 활용도를 높입니다.
AMD Ryzen AI 9 HX 370 SoC에서 STEEL을 평가한 결과, CPU 및 GPU 대비 에너지 소비량이 각각 9.17배, 1.75배 감소했습니다.
XDNA 1에서 STEEL은 기존 최고 성능 대비 9.6배의 지연 시간 감소를 달성했으며, XDNA 2에서 평균 22.8배의 속도 향상을 보였습니다.