Pulse · AI 뉴스

FED-FSTQ: Fisher 기반 토큰 양자화로 통신 효율적인 연합 학습

arXiv cs.AI · 2026-04-28

연구진은 연합 학습 환경에서 LLM을 효율적으로 미세 조정하기 위해 Fisher 기반 토큰 양자화 시스템인 Fed-FSTQ를 제안했어요.

Fed-FSTQ는 토큰 중요도를 추정하여 중요 정보는 고품질로, 불필요한 정보는 압축하여 통신량을 줄여요.

실험 결과, Fed-FSTQ는 기존 방식 대비 통신량을 46배 줄이고, 추론 속도를 최대 1.55배 향상시켜 엣지 디바이스에서 활용 가능성을 입증했어요.

##연합학습##양자화##LLM##통신효율##엣지디바이스
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기