Pulse · AI 뉴스

에이전트 협상 시 행동 기반 개인 정보 유출: 랜덤 정책을 통한 추론 공격 공식화 및 완화

Apple ML Research · 2026-07-10

AI4TCI 워크숍에서 수용된 논문이 국제 신뢰성 및 보안 컨퍼런스(ARES) 2026에 발표됐어요. 자율 협상 에이전트는 보험 및 구매와 같은 고위험 환경에 점점 더 많이 배치되고 있어요.

암호화 기술은 명시적으로 공개된 제약 조건 값을 보호하지만, 관찰 가능한 협상 역학(양보 경로, 타이밍 등)을 통해 개인 정보를 추론하는 미묘한 위협은 해결하지 못해요.

연구에서는 랜덤 정책을 통해 추론 공격을 공식화하고 완화하는 방법을 제시하며, 행동 기반 개인 정보 유출을 방지하는 데 기여할 수 있어요.

##AI보안##개인정보보호##에이전트##협상
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기