연구진은 심층 신경망의 역전파 과정에서 발생하는 병목 현상을 해결하기 위해 잠재적 경계 인터페이스(LBI)라는 새로운 알고리즘을 제안했습니다.
LBI는 각 영역 간의 통신을 저차원 잠재적 인터페이스로 제한하여 역전파 연산 비용을 $O(d^3)$에서 $O(r^3)$으로 줄입니다.
Mamba-2, Mamba-3, Transformer 등 다양한 아키텍처에서 LBI를 적용한 결과, 기존 방식 대비 0.16~0.35%의 교차 엔트로피 차이로 훈련 품질을 유지했습니다.