Pulse · AI 뉴스

CLIP 모델의 편향 완화를 위한 선택적 테스트 시간 보상 게이팅

CLIP · 2026-07-01

연구진은 CLIP 모델이 인물 관련 질문에서 사회적 편견을 강화하는 문제를 해결하기 위해 RG-TTA라는 새로운 프레임워크를 개발했어요. RG-TTA는 입력의 민감도에 따라 편향 완화 정도를 선택적으로 조절하여 공정성과 유용성 사이의 균형을 맞추는 방식이에요. 실험 결과, RG-TTA는 기존 방식보다 편향을 줄이면서도 성능을 향상시키는 데 성공했어요.

RG-TTA는 강화 학습 기반으로 테스트 시간 정책을 적용하며, 입력의 편향 민감도에 따라 공정성 규제 여부를 결정해요. 편향에 민감하지 않은 입력은 크로스 모달 정렬에만 집중하도록 설계됐어요.

FairFace, UTKFace 등 공정성 벤치마크 실험에서 편향 감소와 성능 향상을 동시에 달성하며, 기존 균일한 편향 완화 방식의 한계를 극복했어요.

##CLIP##편향##공정성##강화학습
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기