연구진은 GaLore, Fira, CoLA, SLTrain, ReLoRA 등 5가지 저랭크 사전 훈련 방법과 전체 랭크 훈련의 솔루션을 비교 분석했습니다. 분석 결과, 저랭크 방법들은 전체 랭크 훈련과 동일한 솔루션을 찾지 못하며, 각 방법마다 기하학적, 스펙트럼적 차이를 보였습니다. 검증 perplexity 만으로는 솔루션 품질을 판단하기 어렵다는 점을 확인하고, 새로운 기하학적 및 스펙트럼적 지표를 추가하여 예측 정확도를 높였습니다.