Pulse · AI 뉴스

프롬프트 주입 공격에 저항하는 AI 에이전트 설계

OpenAI · 2026-03-11

ChatGPT는 에이전트 워크플로우에서 위험한 행동을 제한하고 민감한 데이터를 보호하여 프롬프트 주입 및 사회 공학적 공격에 대한 방어 기능을 제공합니다.

위험한 작업은 제약 조건과 안전 장치를 통해 제한되며, 이는 사용자가 의도하지 않은 방식으로 시스템을 조작하는 것을 방지합니다.

이러한 접근 방식은 AI 에이전트가 안전하고 신뢰할 수 있게 운영되도록 보장하는 데 중요한 역할을 합니다.

##에이전트##보안##프롬프트주입
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기