연구진은 Qwen3.5 모델을 분석하여 LLM 기반 코드 생성 시 동일 프롬프트에서 생성된 여러 코드 후보 간의 Mixture-of-Experts (MoE) 라우팅 중복 정도를 조사했습니다.
동일 토큰이 생성되는 위치에서 높은 자카드 유사도를 보였으며, 레이어별 분해를 통해 중간 레이어에서 라우팅 유사도가 감소하고 증가하는 교차 패턴을 확인했습니다.
성공적으로 컴파일된 코드의 67%가 상위 세 그룹에 집중되어 있으며, 그룹 내 차이는 주로 주석과 빈 줄로 구성되어 있어 검색 효율성 개선의 기회를 제시합니다.