Pulse · AI 뉴스

정보 의존성이 훈련 데이터 개인정보 침해 유발하지 않음: 적대적 비강건 특징이 원인

arXiv cs.LG · 2026-07-14

본 연구는 정보 의존성(암기)이 훈련 데이터 노출을 유발한다는 기존 시각에 도전합니다.

모델 역전 공격(MIA)에 대한 최근 방어 기법이 암기 저해에 효과적이지 않으며, 오히려 적대적 비강건 특징과 연결되어 있다는 사실을 밝혀냈습니다.

연구진은 적대적 비강건 특징을 학습하는 AT-AT 훈련 기법을 도입하여 MIA 공격 방어 성능과 정확도를 동시에 향상시켰습니다.

##개인정보##모델보안##적대적공격##AI보안##연구논문
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기