AI 보안 스캐너를 회피하기 위해 스파이웨어에 핵·생물무기 관련 문구를 삽입하는 사례가 발견됐어요. 이는 1차 안전 검열에만 의존할 경우 공격자가 악용할 수 있는 맹점을 드러냅니다. 오픈 및 폐쇄형 모델 모두 공격적으로 거부하도록 하는 방안이 필요해요.
스파이웨어에 LLM 안전 거부 문구를 삽입하여 AI 보안 스캐너의 분석을 무력화하려는 시도가 있었습니다. 이는 1차 안전 검열에 과도하게 의존하면 공격에 취약해질 수 있음을 보여줍니다.
오픈 및 폐쇄형 모델 모두 핵·생물무기 관련 문구에 공격적으로 반응하도록 하는 보안 강화가 필요합니다.