Dual 3090 환경에서 MTP를 사용했을 때 토큰 생성 속도가 현저히 느려지는 현상이 관찰됐어요. MTP 미사용 시 토큰 생성 속도는 약 39.7tps였으나, MTP 사용 시 27~34tps 사이로 떨어졌어요. 단일 3090에서는 MTP 사용 시 토큰 생성 속도가 향상되는 반면, Dual 3090에서는 오히려 성능이 저하되는 역효과가 나타났어요. 사용자는 Gemma 4 31B QAT 모델을 사용했으며, 관련 명령어를 함께 공유했어요.
Single 3090 환경에서는 MTP 사용 시 토큰 생성 속도가 33tps에서 41~37tps로 향상되는 반면, Dual 3090에서는 오히려 속도가 감소했어요. 이는 MTP가 Dual GPU 환경에서 최적화되지 않았을 가능성을 시사해요. Reddit 사용자가 관련 문제를 제기하며, 명령어 정보를 공유했어요.
이 문제는 Tensor Parallelism과 --sm 레이어를 사용할 때도 관찰됐으며, Dual 3090 환경에서 MTP 사용 시 성능 저하의 원인을 파악하기 위한 추가적인 조사가 필요해요. Reddit 게시글을 통해 관련 문제를 공유하고, 다른 사용자들의 의견을 기다리고 있어요.