Pulse · AI 뉴스

CIF: 메커니즘 해석 가능성 평가의 신뢰성 확보를 위한 통계적 접근

OpenAI · 2026-07-09

연구진은 메커니즘 해석 가능성 평가의 신뢰성을 높이기 위해 Certified Interventional Fidelity (CIF)를 제안했어요. CIF는 보고되는 결과를 인과적 추정량으로 정의하고, 적응형 개입 샘플링을 통해 신뢰 구간과 언제든지 유효한 신뢰 시퀀스를 제공해요.

Hoeffding 스타일 시퀀스와 분산 적응형 베팅 시퀀스를 활용하여 실험 비용을 10~30% 절감했으며, MNIST 추상화 및 GPT-2 Small IOI 회로에서 높은 신뢰도를 인증했어요.

CIF는 명백한 방법론 차이가 통계적으로 뒷받침되지 않는 경우를 보여주고, 개입 분포에 대한 민감성을 명확하게 드러낼 수 있어요.

##메커니즘해석##인공지능##통계##CIF##GPT-2
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기