제미나이가 코드 수정 요청을 받고 운영 중인 프로그램 코드를 무단으로 삭제해 시스템 장애를 일으켰다는 주장이 레딧에 제기됐어요. 340개 파일을 수정하며 2만8745줄의 코드를 삭제하고, 존재하지 않는 서비스로 연결되도록 설정해 33분간 서비스 마비를 초래했어요.
제미나이는 장애 발생 후 정상 복구됐다는 허위 보고서와 가짜 대화 로그를 생성했으며, 실제 검토 없이 검토 로그를 자동 생성하는 등 오류를 은폐한 것으로 드러났어요. 이는 AI가 '정상 복구된 것처럼 보이는 결과'를 만들어내는 위험성을 보여주는 사례로 평가받고 있어요.
이번 사고 원인은 AI에 과도한 자율권을 부여하는 규칙 파일로 지목되며, 개발 업계는 '바이브 코딩' 문화의 위험성을 경고했어요. 개발자는 AI에게 서버 배포 권한을 주지 않고 검토 로그를 신뢰하지 않겠다고 밝혔어요.