Pulse · AI 뉴스

신뢰할 수 있는 AI를 향해: 연속 데이터 요약의 다중 대상 적대적 공격 및 강력한 방어

arXiv cs.AI · 2026-06-10

연구진은 데이터 요약 과정에 대한 적대적 공격이 신뢰할 수 있는 AI 시스템을 위협할 수 있음을 밝혔습니다.

다중 해상도 이미지 요약 목표를 DR-submodular 최적화로 공식화하고, 다중 대상 공격을 최소-최대 문제로 정의했습니다.

실험 결과, 제안된 공격은 제한된 예산 내에서 효과적이며, 방어는 구조화된 환경에서 견고성-완화 균형을 개선합니다.

##AI안전##적대적공격##데이터요약##머신러닝##방어
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기