연구진이 공개 토론 인터페이스를 통해 웹 규모의 사전 훈련 데이터를 오염시키는 공격 가능성을 입증했어요. 기존 연구가 제한적인 데이터 소스에 집중했던 것과 달리, 웹 크롤링 및 데이터 큐레이션 파이프라인과의 상호작용을 고려하지 않았다는 점이 특징이에요. 새로운 분석 도구 HalfLife를 활용해 악성 콘텐츠가 데이터 큐레이션 과정을 거쳐 포함되는지 측정할 수 있음을 확인했어요.
HalfLife 분석 결과, 공개 토론 인터페이스를 통해 사전 훈련 데이터에 악성 콘텐츠를 주입하는 것이 가능하다는 것을 보여줬어요. 이는 웹 크롤링 기반 LM 훈련 데이터에 대한 공격의 새로운 경로를 제시하는 결과예요. 연구진은 악성 주입이 사전 훈련 데이터에 포함되는지 추정하는 것의 중요성을 강조했어요.
연구 결과는 사전 훈련 데이터 오염 공격의 위험성을 경고하며, 웹 페이지 콘텐츠가 언어 모델 사전 훈련 공격에 사용될 수 있음을 시사해요. 향후 언어 모델의 안전성을 확보하기 위해 데이터 큐레이션 과정의 보안 강화가 필요하다는 점을 강조했어요.