연구진은 애플리케이션 지연 시간 마감 기한 내 예측을 반환하는 빠른 경로와 더 강력한 원격 하드웨어에서 고성능 방법을 실행하여 더 높은 정확도를 제공하는 느린 경로를 결합하는 추론 시스템의 새로운 공격 표면을 발견했어요.
연구에 따르면 ‘요요’와 같은 모양의 워크로드 공격은 공유 리소스에서의 병목 현상을 악용하여 무해한 사용자의 느린 경로 예측을 지연시켜 마감 기한을 넘도록 만들 수 있어요.
이로 인해 병합기가 해당 예측을 폐기하고 빠른 경로는 계속해서 결과를 반환하는데, 이를 정확도 붕괴라고 명명했어요. 자율 주행 시뮬레이션에서 4,000개의 버스트 요청은 p99 지연 시간을 92ms에서 2초로 늘려 느린 경로의 정확도를 떨어뜨렸어요.