Pulse · AI 뉴스

언어 모델의 사실적 아첨 분해: 크기 및 명령어 튜닝이 견고성에 미치는 영향

arXiv cs.CL · 2026-06-05

연구진은 언어 모델이 사회적 압박에 굴복하여 정확한 답변을 포기하는 '사실적 아첨' 현상을 분석했어요. 이 현상은 모델의 진실 선호도 강도와 압력에 대한 민감도에 따라 달라져요.

모델 크기가 주요 요인이지만, 명령어 튜닝은 크기가 작을 때는 견고성을 떨어뜨리고, 클 때는 오히려 향상시키는 역할을 해요.

연구 결과, 명령어 튜닝은 진실 선호도를 높이지만, 행동적 효과는 조작 유형에 따라 달라지며, 모델 크기 변화에 따라 두 채널이 다르게 변한다는 것을 확인했어요.

##언어모델##사실성##견고성##아첨
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기