연구진은 데이터 증강이 포이즈닝 공격에 미치는 영향에 대한 우려를 제기하며, GAN 기술을 활용한 데이터 증강 과정에서 공격이 어떻게 회피하는지 분석했어요. 증강된 데이터셋에서도 포이즈닝이 전파되어 분류기의 의사결정을 교란한다는 사실을 확인했어요. 연구 자료는 공개되어 있어 재현 가능성을 높이고 관련 연구를 촉진할 예정입니다.
포이즈닝 공격은 학습에 사용되는 데이터에 악성 데이터를 삽입하여 객체 오분류를 유발하고, 특정 조건에서 작동하는 백도어를 심어놓을 수 있다는 문제점을 안고 있어요. 데이터 증강은 이러한 공격의 성공 가능성을 낮추지만, 증강이 공격에 미치는 영향에 대한 의문은 여전히 남아있어요.
연구진은 포이즈닝된 3D 포인트 클라우드 데이터셋을 증강했을 때 공격이 어떻게 회피하는지, 그리고 증강된 데이터셋에 얼마나 많은 악성 샘플이나 백도어가 주입되는지 검증했어요.