본 연구는 신경망 내 편향의 존재와 전파를 다층 분석을 통해 조사했어요. 잠재 공간, 레이어 활성화, 네트워크 파라미터 등 다양한 수준에서 편향을 분석하는 방법론을 제시했어요. SpaceBias, ActivationBias, WeightBias라는 세 가지 편향 탐지 기법을 제안하며, 기존 방법과는 달리 모델 내부 구조에서의 편향 발생 과정을 파악할 수 있도록 해요.
SpaceBias는 분류 레이어 이전의 잠재 공간을 분석하고, ActivationBias는 신경망 필터의 활성화를 분석하며, WeightBias는 모델 파라미터에서 편향 패턴을 직접 식별해요. DiveFace 데이터셋의 성별 분류와 색상 MNIST의 숫자 분류 실험을 통해 12만 7천 개 이상의 모델을 평가했어요.
편향 심각도 변화에 따라 내부 불일치와 탐지 성능이 부드럽게 감소하는 것을 확인했으며, 이는 균형 잡힌 학습 분포의 중요성을 강조해요.
결과적으로, AI 모델의 편향을 이해하고 개선하기 위한 새로운 방법론을 제시하며, AI 윤리 및 공정성 연구에 중요한 시사점을 제공해요.