Pulse · AI 뉴스

AVSD: Adaptive-View Self-Distillation, 교차 검증 합의와 모델별 특이 신호 균형을 통한 적응적 뷰 자가 증류

Qwen · 2026-05-20

AVSD(Adaptive-View Self-Distillation)는 여러 뷰의 특권 정보로 자가 증류를 수행하는 새로운 방법입니다.

AVSD는 뷰 간의 안정적인 합의 신호를 파악하고, 합의 방향과 일치하며 합의 신호에 비례하는 경우에만 뷰별 잔여 신호를 선택적으로 추가합니다.

수학 및 코딩 벤치마크에서 AVSD는 기존 방식보다 평균 2~3% 향상된 성능을 보였으며, Qwen3-8B 및 Qwen3-4B 모델에서 각각 Avg@8 지표로 3.1% 및 2.2%의 평균 향상을 달성했습니다.

##자가증류##AVSD##Qwen3
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기