네이버의 팀네이버가 국제 머신러닝 학회 'ICML 2026'에서 LLM 취약점을 점검하는 AI 안전성 연구로 세계 3대 AI 학회에서 상위 2.2%에 드는 평가를 받았어요.
팀네이버는 LLM의 공격 취약점을 점검하는 '스테이블 지플로우넷' 기술을 개발했는데, 공격자의 관점에서 AI 모델이 위험한 답변을 내놓도록 유도하는 시나리오를 찾아내는 레드티밍 기술이에요.
이번 연구를 통해 AI 모델을 안전하게 검증하고, 여러 AI가 협업하는 순서를 설계하는 에이전트 기술, 현실 공간을 가상으로 재현한 피지컬 AI 플랫폼 개발에 힘쓰고 있어요.