GeoStack은 VLMs의 지식 조합 문제를 해결하기 위해 개발된 프레임워크입니다. 독립적으로 학습된 도메인 전문가를 통합하여 단일 모델을 구축하며, 기반 모델의 지식을 보존합니다. GeoStack은 어댑터 매니폴드에 기하학적 제약을 가하여, 가변적인 추론 복잡도 없이 일관된 성능을 유지합니다.
다중 도메인 적응 및 클래스 증분 학습 실험에서 GeoStack은 장기적인 지식 조합에 효율적인 메커니즘을 제공하며, 재앙적 망각을 크게 완화합니다. GeoStack은 GitHub에서 코드를 확인할 수 있습니다.
GeoStack은 가중치 폴딩 속성을 수학적으로 증명하여, 통합된 전문가 수에 관계없이 일관적인 추론 복잡도($O(1)$)를 달성합니다.