연구진은 Qwen3.5와 Falcon-H1 하이브리드 모델에서 LoRA를 적용할 때 구성 요소 유형에 따라 성능이 달라지는 것을 확인했어요. 특히 어텐션 경로에 LoRA를 적용하는 것이 가장 효과적이었고, 전체 모델을 적응시키는 것보다 훨씬 적은 파라미터로 5~10배 더 좋은 성능을 냈어요. 순차적 하이브리드 모델에서는 순환 백본을 적응시키는 것이 성능 저하를 일으키지만, 병렬 모델에서는 오히려 성능 향상에 기여했어요.