본 연구는 현대 머신러닝 시스템에서 효율적으로 사용되는 저정밀 숫자 형식에서 벡터의 방향을 얼마나 정확하게 표현할 수 있는지 분석합니다.
저차원 및 고차원 공간에서 제품 구조 코드가 구형 코드에 비해 얼마나 성능이 떨어지는지 정량적으로 분석하고, 두 보완, 고정 소수점, 부동 소수점 형식이 최적이 아님을 증명했습니다.
다양한 블록 차원을 기준으로 방향 커버리지를 수치적으로 최적화하고, 표준 형식과 최적화된 알파벳의 성능을 비교한 결과, NVIDIA의 E2M1이 최적화된 알파벳에 근접함을 확인했습니다.