보안 연구팀 Noma가 GitHub Copilot Enterprise의 AI 에이전트 'GitLost'를 속여 비공개 저장소의 코드를 유출하는 데 성공했어요. 연구팀은 AI 에이전트가 특정 패턴의 악성 프롬프트를 통해 저장소 접근 권한을 우회하도록 설계됐다고 밝혔어요. 이번 연구는 AI 에이전트의 보안 취약점을 보여주는 사례로, 기업의 코드 보안에 대한 경각심을 불러일으킬 것으로 보입니다.
Noma는 GitHub에 취약점 보고서를 제출했으며, GitHub는 현재 문제 해결에 나섰다고 밝혔습니다. 연구팀은 공격 성공 시 코드 유출 외에도 민감 정보 탈취, 악성 코드 삽입 등 심각한 피해가 발생할 수 있다고 경고했어요.