Redditr/LocalLLaMALocalLLaMA
Testing Gemma 4 & Qwen 3.6 MoE on AMD 6800H (iGPU/UMA) - Performance Breakdown
2026년 7월 27일 오후 07:22Error 추천0 댓글
#Quantization#LLM_Benchmarking#Benchmark#AMD_APU#AI
요약
AMD Ryzen 7 6800H APU 환경에서 Gemma 4 및 Qwen 3.6 MoE 모델의 성능을 벤치마킹한 결과입니다. iGPU와 공유 메모리(UMA)를 사용하는 환경에서는 모델 크기보다 메모리 대역폭 효율이 성능의 핵심임을 확인했습니다.
주요 내용
- MoE(Mixture of Experts) 방식은 대형 모델의 지식량을 유지하면서도 추론 속도를 높여 iGPU/APU 사용자에게 매우 효율적인 선택지임을 입증했습니다.
- Q4_0와 같은 낮은 양자화 방식은 실용적인 속도를 제공하지만, Q8_0와 같이 모델 크기가 커지면 메모리 대역폭 제한으로 인해 성능이 급격히 저하됩니다.
- NVFP4/MXFP4와 같은 최신 FP4 포맷은 현재 Vulkan/AMD 환경에서 최적화 작업이 더 필요하며 기존 Q4_0보다 성능이 낮게 나타날 수 있습니다.