연구 결과, AI 생성 텍스트 탐지 모델이 AI 생성물을 정확히 식별하지 못하고 특정 소수 집단에 편향을 보일 수 있어요. 특히 자폐 작문이 AI 생성물로 오인될 가능성이 높은 것으로 나타났어요. Reddit 게시물 6만 건을 분석한 결과, 자폐 작문으로 추정되는 게시물이 일반 게시물보다 AI 생성물로 더 자주 오인됐어요.
AI 탐지 모델의 편향성은 학문적 맥락에서 윤리적 문제를 야기하며, 모델 자체에 대한 비판적 검토와 사용에 대한 주의가 필요해요. 연구는 자폐 작문과 AI 생성 텍스트의 특징 간 연관성은 명확하지 않다고 밝혔어요.
연구는 AI 탐지 모델이 자폐 작문을 AI 생성물로 오분류하는 현상에 대한 실증적 증거를 제시하며, 모델의 윤리적 사용에 대한 논의를 촉구했어요.