연구진이 대규모 심층 신경망에 백도어를 심는 방법을 발견했어요. 백도어는 화이트박스 환경에서도 통계적으로 탐지하기 어려워, 정직하게 학습된 모델과 거의 동일한 거리를 유지해요. 이 백도어는 모든 입력에 대해 변환성 기반 적대적 예제를 제공하여, 멀리 떨어진 입력을 비정상적으로 가까운 출력으로 매핑해요.
백도어가 없으면 표준 암호화 가정 하에서 다항 시간 내에 그러한 적대적 예제를 생성하는 것은 불가능해요. 이론적, 예비 실험 결과는 모델 훈련자와 사용자 간의 근본적인 권력 불균형을 보여줘요.