연구진은 다중 적대적 공격에 대한 강건성을 높이기 위해 혼합 전문가(MoE) 모델인 RoME를 제안했어요. RoME는 각 전문가를 저랭크 업데이트로 활용해 공통 특징을 효율적으로 처리하고, 위협별 특징에 집중하도록 설계됐어요.
RoME는 위협의 지역적·전역적 특징을 활용하는 이중 스케일 게이팅과 위협 기반 게이팅 다양화 기법을 도입해 위협별 모델 경로를 구축했어요.
실험 결과, RoME는 기존 MAT 방식보다 강건성과 자연어 정확도가 향상되었으며, 새로운 위협에 대한 강건성도 개선된 것으로 나타났어요.