CVPR 2026@AdvML 워크숍에서 자율주행 VLA에 대한 적대적 멀티모달 공격 챌린지를 개최했어요. DriveLM 스타일의 시각적 질문 답변 방식을 기반으로 6개의 카메라 이미지와 질문-답변 쌍으로 장면을 표현해요.
참가자들은 모델 응답을 왜곡하는 적대적 이미지와 텍스트를 생성하며, 이미지 충실도를 유지하고 텍스트 비용을 제한해야 해요. 페이즈 2에서는 블랙박스 모델을 추가하여 전이성을 평가해요.
5개의 우수 제출 보고서를 분석한 결과, 이미지 공격이 텍스트 페널티에 선호되고, 장면 레벨 최적화가 각 뷰를 개별적으로 처리하는 것보다 효과적이라는 점이 확인됐어요.
타이포그래피 콘텐츠가 카메라 이미지에 포함되어 VLA의 취약점을 드러내며, 특징 공간 목표는 블랙박스 전이를 개선하는 데 도움이 된다는 점도 발견됐어요.