LOFT는 직교 파인튜닝 방법의 설계 요소를 분리하여 새로운 프레임워크를 제시합니다. 이 방법은 직교 적응을 곱셈 부분 공간 회전으로 보고, 기존의 다양한 직교 PEFT 방법들을 통합적으로 설명합니다.
연구 결과, 언어 이해, 시각적 전이, 수학적 추론, 다국어 환경에서 LOFT는 주성분 기반 직교 적응을 회복하며, 기울기 기반 지원 선택은 효율성과 성능 간의 균형을 개선합니다.
본 연구는 직교 PEFT의 성능 향상을 위한 중요한 방향으로, 체계적인 지원 선택의 중요성을 강조합니다.