연구진은 GPU 커널 최적화를 위해 기술 선택, 커널 생성, 기술 요약 기능을 결합한 강화 학습 프레임워크 'daVinci-kernel'을 개발했어요. 이 프레임워크는 BM25와 LLM을 활용해 관련 기술을 선택하고, CUDA/Triton 커널을 생성하며, 성공적인 결과를 재사용 가능한 기술로 요약하는 세 가지 에이전트를 사용해요.
daVinci-kernel은 KernelBench에서 Dr.Kernel-14B보다 높은 성능(Level 1: 37.2%, Level 2: 70.6%, Level 3: 32.2%)을 기록했어요. 특히 Fast$_1$ 기준 Level 2에서 70.6%의 성능 향상을 보여줬어요.
세 가지 에이전트는 하나의 LLM 백본을 공유하며, 다양한 데이터를 활용한 SFT 사전 훈련 후 REINFORCE와 에이전트별 이점 추정 방식으로 공동 최적화돼요.