Pulse · AI 뉴스

Bielik 모델은 자신이 무엇을 모르는지 알 수 있을까? 활성화 분산이 개체 친숙도와 사실적 신뢰성을 구분

Bielik · 2026-07-09

연구진은 Bielik 모델(1.5B~11B 파라미터)이 답변 생성 전 개체 친숙도를 감지하는지 확인하고, 이 신호가 답변의 사실적 신뢰성을 예측하는지 조사했어요.

분산 측정 방식(inverse participation ratio, spectral entropy)을 통해 모델은 잘 알려진 개체와 가짜 개체를 95~100% 정확도로 구분하며, 이는 규모나 영역에 관계없이 일관성을 보였어요.

사실적 신뢰성은 모델 규모에 따라 크게 향상되지만, 개체 친숙도를 감지하는 신호는 1.5B 파라미터에서 이미 최고점에 도달했으며, 알려진 개체의 경우 올바른 답변과 환각 답변을 구별하기는 훨씬 어려워요.

##LLM##Bielik##개체인식##활성화분산
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기