연구진은 멀티모달 지속적 인스트럭션 튜닝(MCIT)의 효율성을 높이는 CRAM을 제안했어요. CRAM은 독립적인 모듈을 활용해 기존 능력 잊힘을 막고, 필요한 파라미터만 동적으로 할당하여 파라미터 효율성을 높여요.
센트로이드 기반 라우팅은 기존 전문가의 능력을 활용하고, 새로운 업데이트는 작업별 방향으로 제한하여 안정적인 재사용을 보장해요. 적응형 랭크 인스턴스화는 기존 전문가 능력과 새로운 작업 요구 간의 격차를 파악하여 필요한 파라미터만 할당해요.
다양한 벤치마크 실험 결과, CRAM은 기존 방법보다 우수한 성능을 보였으며, 멀티모달 지속적 인스트럭션 튜닝의 효율성을 높이는 데 기여할 것으로 기대돼요.