OpenAI가 프롬프트 인젝션 공격으로부터 사용자를 보호하기 위해 'Lockdown Mode'를 공개했어요. 이 기능은 민감한 데이터가 유출될 가능성을 줄이는 것을 목표로 합니다. ChatGPT는 여전히 프롬프트 인젝션에 취약할 수 있지만, 새로운 기능으로 위험을 완화할 수 있습니다.
Lockdown Mode는 사용자가 민감한 정보를 입력하지 못하도록 제한하고, 모델이 시스템 프롬프트를 변경하는 것을 방지합니다. 이는 기업 환경에서 특히 유용하며, 데이터 유출 위험을 줄이는 데 기여할 것으로 예상됩니다.