Anthropic의 새로운 '글로벌 워크스페이스' 논문과 관련된 모델의 오류 인지 메커니즘 수정 사항이 공개됐어요.
연구에 따르면 LLM은 'J-공간'이라 불리는 작은 보고 및 추론 공간을 가지고 있으며, 이는 더 큰 처리 공간 위에 존재해요.
선형 프로브와 훈련된 가중치를 활용해 모델의 신뢰도를 보정하면 0.765 이상의 정확도를 달성할 수 있어요.
이 방법은 모델의 답변을 변경하지 않으며, 200개 정도의 라벨링된 예시만 필요하며, 모델의 어떤 단계에서도 적용 가능해요.