연구진은 Qwen2.5-Coder와 DeepSeek-Coder 모델을 활용해 파이썬과 러스트 코드를 분석했어요. 작업에 따라 달라지는 개념 회로를 추출하고, 모델에 따라 회로 위치와 성장 방식이 달라지는 것을 확인했어요.
모델들은 작업에 따라 어떤 개념 회로가 필요한지 일치하게 판단했지만 (Spearman ρ = 0.638, 0.673), 회로 위치는 모델에 따라 달랐어요 (Qwen은 L17-19, DeepSeek는 L6-7).
러스트 코드는 파이썬 코드보다 개념 회로가 2~3배 더 많이 필요하며, DeepSeek 모델은 Qwen 모델보다 언어 간 공유 뉴런이 더 많았어요.
연구 결과는 코드 모델 표현의 보편성에 대한 질문에 '무엇'에 대해서는 긍정적이지만, '어디에'와 '어떻게'에 대해서는 부정적이라는 답을 제시합니다.