MI50 GPU의 전력 제한 테스트 결과, 100W 대비 50W에서 전력 효율이 월등히 높게 나타났습니다. 50W에서는 최대 성능 대비 70%의 생성 속도를 유지하면서도 전력 소비를 대폭 줄일 수 있습니다.
전력 제한 시 생성 속도는 놀라울 정도로 안정적이며, 디코드가 메모리 대역폭에 의해 제한되는 것으로 확인됐습니다. 20W에서는 최대 전력 대비 6배 더 높은 에너지 효율을 달성할 수 있지만, 프롬프트 처리 속도는 최대치의 53%로 감소합니다.
MI50 GPU의 추론 중심 워크로드에 최적의 작동 지점은 50W이며, 이는 상당한 전력 절감과 냉각 요구 사항 감소를 가져옵니다.