Pulse · AI 뉴스

Vision-Language 모델, 모호한 입력에서 여성 묘사 억제

OpenAI · 2026-05-30

연구에 따르면 Vision-Language 모델(VLM)은 명확한 성별 정보가 없을 때 직업-성별 고정관념을 드러내며, 남성으로 치우친 결과를 낼 수 있습니다.

LALS(잠재 연관성 경향성 점수)라는 새로운 지표를 통해 모델 내부 표현과 출력 간의 불일치를 확인했는데, 여성 연관성이 내부적으로 존재함에도 불구하고 남성으로 출력되는 경우가 많습니다.

레이어별 분석 결과, 남성 신호는 전체적으로 증폭되는 반면, 여성 신호는 중간 레이어에서 정점에 달했다가 생성 전에 억제되는 비대칭적인 필터 구조를 보입니다.

##VLM##AI윤리##성별편향##잠재연관성
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기