앤트로픽의 AI 개발 도구 '클로드 코드'에 특정 사용자 환경을 식별하는 코드가 숨겨져 있었던 사실이 밝혀졌어요. 이 코드는 무단 리셀러 계정 남용과 모델 증류를 막기 위해 실험적으로 도입된 것이었어요.
개발자 '더리얼로'는 클로드 코드 바이너리 분석 결과, 시스템 프롬프트에 숨겨진 암호화 은닉 기능을 발견했는데, 이는 특정 신호를 분류 코드로 파싱하는 방식이었어요.
앤트로픽은 자체 프록시나 게이트웨이를 이용한 우회 접속 사용자를 타깃으로 삼았으며, 중국 기업 관련 키워드 블랙리스트를 활용해 사용자 정보를 추적했지만, 투명성 문제가 제기되고 즉시 철회될 예정이에요.