해커가 GPT, Bard, Claude 등 인기 AI 도구 9종을 활용해 대규모 봇넷을 구축하는 공격 기법을 개발했어요. 이 기법은 LLM의 '모르겠습니다' 답변 불가 취약점을 악용해 사용자를 속입니다. 'HalluSquatting'이라 불리는 이 공격은 LLM이 허위 정보를 생성하도록 유도해 악성 행위를 수행합니다.
연구진은 공격 시나리오를 시연하며, LLM이 생성한 콘텐츠가 실제 웹사이트로 트래픽을 유도하는 것을 확인했어요. 이 공격은 LLM의 신뢰성 문제를 부각시키고, 사용자 기만 가능성을 보여줍니다.
연구진은 LLM 개발자와 사용자가 이러한 공격에 대한 인식을 높이고, LLM의 답변을 비판적으로 평가할 것을 권고했어요. 또한 LLM의 답변 출처 확인 기능 강화와 같은 기술적 해결책 마련이 필요하다고 강조했습니다.