연구진이 엣지 환경에서 VLM 추론 시 에너지 소비를 분석했어요. 놀랍게도 이미지 복잡도와 무관하게 모델 자체의 특성이 에너지 소비의 주요 요인이었어요.
입력 토큰 대비 출력 토큰 생성에 훨씬 많은 시간이 소요되어, 출력 토큰 수가 지연 시간과 에너지 소비를 좌우하는 주요 변수임이 확인됐어요.
출력 토큰 수를 줄이면 총 에너지 소비의 최대 97%를 절약할 수 있으며, 모델 규모가 커질수록 디코딩의 에너지 지배력이 더욱 강해지는 것으로 나타났어요.