Pulse · AI 뉴스

이미지 생성 모델의 사전 훈련 데이터에 대한 블랙박스 멤버십 추론 공격

SD-MIA · 2026-05-26

연구진은 확산 기반 이미지 생성 모델의 사전 훈련 데이터 유출 위험을 분석하는 SD-MIA 공격 프레임워크를 제안했어요.

SD-MIA는 텍스트 지시문과 이미지의 교차 모달 데이터 변조를 활용하여 블랙박스 환경에서 사전 훈련 데이터의 멤버십을 추론해요.

기존 방법보다 우수한 성능을 보여줬으며, 내부 모델 특징에 접근할 수 있는 방법보다도 더 효과적이었어요.

##AI보안##멤버십추론##이미지생성##확산모델##개인정보
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기