텍스트-이미지(T2I) 모델이 사회적 편향을 드러내는 현상이 확인됐어요. 기존 연구는 성별·피부색·문화적 표현에 집중했지만, 장애인 묘사는 상대적으로 소외됐어요. 연구진은 장애 관련 편향 평가를 위한 대규모 벤치마크 INCLUDE-BENCH를 공개했어요.
INCLUDE-BENCH는 다양한 편향 차원과 상황에서 11만9천 장의 이미지를 생성하고 15개 모델을 평가했는데, 이동 장애 관련 프롬프트는 대부분 휠체어 이미지를 생성하는 경향을 보였어요. 또한 장애 묘사는 다양성이 부족하고, 고정관념적 표현이 프롬프트와 강하게 연결되는 것으로 나타났어요.
연구진은 T2I 모델이 현실 세계의 고정관념을 반영한다는 점을 보여주는 Stereotype Content Model (SCM) 점수를 새롭게 제시했어요.