사용자가 로컬 모델의 활성화 경로를 매핑하고 A/B 테스트 중인 상황을 공유했어요. 실험은 제품 개선이나 벤치마크 제안 없이 진행됐다고 설명해요. 질문에 따라 모델이 사용하는 활성화 경로가 달라지는 점을 관찰했어요.
Gemma 4 31B, 26B, Qwen 3.6 35B 모델을 사용하여 실험을 진행했으며, 각 모델마다 활성화 경로의 변동 폭이 달랐다고 언급했어요. 질문 색상 키를 제공하여 어떤 질문에 어떤 모델이 사용되었는지 파악할 수 있도록 했어요.
사용자는 모델의 활성화 경로가 인간의 뇌 신경망과 유사하다고 생각하며, 특정 반응성이나 추론이 존재하는 클러스터를 찾아 조작할 수 있는 가능성에 흥미를 느꼈다고 표현했어요. 모델의 뇌 수술에 비유하며 흥미를 표명했어요.
실험 결과는 제품 개선이나 벤치마크 제안 없이, 모델의 내부 작동 방식에 대한 개인적인 탐구에 집중된 것으로 보입니다.