연구진은 LLM의 내부 작동 방식을 설명하고 숨겨진 기능을 찾아내는 자율 에이전트 프레임워크를 개발했어요.
이 시스템은 설명 개선과 기능 발견을 위한 두 가지 루프를 결합하여, 에이전트가 가설을 세우고 테스트하며, 활성화 공간에서 그래프를 구축하고 통계적 분리 및 의미적 일관성 기준을 활용해요.
Gemma-2 모델과 가중치 희소 트랜스포머의 MLP 뉴런에서 기존 방식보다 성능을 개선하고 언어 및 안전 관련 기능을 발견하며 감사 가능한 설명 추적을 제공했어요.