연구진은 신경망 아키텍처 코드를 위한 점진적인 커리큘럼을 구축하는 MinHash 기반 유사도 스케줄링 프레임워크를 소개했어요. 128-permutation MinHash 서명을 사용하여 유사도 밴드로 분할하고, 점차적으로 아키텍처 이질성을 증가시키는 방식으로 제시해요.
OlympicCoder-7B 모델을 LEMUR 벤치마크에서 CIFAR-10 이미지 분류에 활용하여 6개의 점진적인 파인튜닝 단계를 거쳐 에포크당 N=15개의 후보 아키텍처를 생성했어요. 커리큘럼은 사후 처리 없이 고유사도 수준에서 60%의 최고 성공률을 달성했어요.
부분 인터페이스 수리 없이 가장 다양한 수준의 커리큘럼을 사용할 경우, 기본 모델이 커리큘럼 모델보다 성능이 훨씬 좋았지만, 부분 수리를 추가하면 두 모델 모두 53%의 최고 성공률을 보였어요.
SVHN 데이터셋으로의 교차 데이터셋 전송 관찰 결과, 커리큘럼 워밍업 없이 직접 기본 모델을 생성하면 CIFAR-10과 비교하여 훨씬 낮은 정확도(60.5%)에서 27%의 최고 성공률을 보였어요.