연구진이 AI 에이전트 보안 취약점 평가를 위한 레드 팀 환경 구축 플랫폼 'DTap'을 공개했어요. DTap은 Google Workspace, Paypal, Slack 등 14개 도메인, 50개 시뮬레이션 환경을 지원하며, 실제 공격 시나리오를 재현할 수 있도록 설계됐어요.
DTap-Red라는 자율 레드 팀 에이전트를 통해 다양한 공격 벡터를 탐색하고 효과적인 공격 전략을 발견하며, DTap-Bench라는 대규모 레드 팀 데이터셋을 구축했어요.
DTap을 통해 다양한 AI 에이전트의 보안 취약점을 평가한 결과, 체계적인 취약점 패턴을 발견하고 안전한 차세대 에이전트 개발을 위한 인사이트를 얻을 수 있었습니다.