연구진이 AI 환각을 악용한 새로운 공격 기법 '할루스쿼팅'을 발표했어요. AI가 존재하지 않는 저장소 이름을 만들어 악성 명령을 실행하는 방식이에요.
Cursor, Windsurf, GitHub Copilot 등 AI 코딩 도구 사용 시 저장소 복제 요청 시 환각 발생률이 최대 85%에 달하는 것으로 확인됐어요.
기업들은 AI가 추천한 저장소와 패키지 검증 절차를 강화하고, 터미널 실행 권한을 최소화하는 등 보안 전략을 강화할 필요가 있어요.