PyoSignal Logo
PyoSignal
Back to Community
Reddit r/LocalLLaMA LocalLLaMA

Is it possible to run Qwen 122B in 64GB ram + 24gb vram ? If so, how ?

2026년 7월 11일 오후 06:42 Error upvotes 0 comments
Read Original
Hardware_Optimization LLM_Deployment Qwen

📝 Summary

사용자가 64GB RAM과 24GB VRAM 환경에서 Qwen 122B 모델을 구동할 수 있는지에 대해 질문했습니다. 구동이 가능하다면 어떤 설정이 필요한지 구체적인 방법을 묻고 있습니다.

🔑 Key Points

  • 64GB 시스템 메모리와 24GB VRAM 조합에서의 Qwen 122B 모델 구동 가능 여부 문의
  • 해당 하드웨어 사양에서 모델을 실행하기 위한 최적의 설정값 및 방법 탐색