연구진이 LoRA 최적화 성능을 높이는 PoLoRA 기법을 제안했어요. PoLoRA는 스펙트럼 업데이트 방향, 커브처 사전 조건부, 크기 규칙을 활용합니다. 코드 및 수학 instruction-tuning 데이터셋에서 10억~80억 파라미터 모델에 적용한 결과, Adam과 동일한 성능을 1.2~1.7배 적은 단계로 달성했어요. PoLoRA는 Adam보다 학습률에 덜 민감하며, rank에 따른 최적 학습률 변화가 적어요.