연구진은 시각-언어-행동(VLA) 모델에서 궤적 재지정 공격이라는 새로운 취약점을 발견했어요.
공격자는 명령어를 보존하면서 로봇의 최종 물리적 결과를 재지정하는 프롬프트를 생성할 수 있어요.
연구진은 궤적 재지정 공격을 위한 프롬프트 검색 방법을 개발하고 시뮬레이션과 실제 로봇 환경에서 실험했어요.
이 연구는 VLA 명령어 기반 제어의 궤적 수준의 취약점을 보여주며, 겉보기에는 의도한 명령어를 보존하는 텍스트도 적대자가 로봇의 최종 결과에 영향을 미칠 수 있음을 시사해요.