Pulse · AI 뉴스

밀집 검색기의 위치 편향은 내재적일까, 데이터에서 학습되는 것일까?

HuggingFace Papers · 2026-05-26

연구진은 밀집 검색기가 문서 앞부분에 관련 정보가 있을 때 더 높은 성능을 보이는 위치 편향을 보인다는 것을 확인했어요. 기존 연구가 모델 구조에 집중했지만, 이번 연구는 훈련 데이터의 위치 분포가 검색 성능에 미치는 영향을 분석했어요. 훈련 데이터의 위치 편향을 조작하여 8개의 모델을 훈련한 결과, 편향된 데이터로 훈련할수록 해당 위치를 선호하는 경향이 나타났어요.

위치 균형 훈련은 위치 민감도 57~87%를 줄이고 평균 검색 성능을 향상시켰어요. 표현 수준 분석 결과, 훈련 과정에서 위치 선호도가 재형성되기도 하지만, 모델 구조나 사전 훈련 방식에 따른 경향성은 일부 남아있음을 확인했어요.

##검색##밀집검색기##위치편향
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기