Redditr/LocalLLaMALocalLLaMA
Do you use DS4 vs oMLX for Deep Seek V4 Flash on Mac Studio?
2026년 8월 23일 오후 07:38Error 추천0 댓글
#DeepSeek#LLM Inference#Apple Silicon
요약
M3 Ultra 256GB Mac Studio 사용자가 DeepSeek V4 Flash 모델 구동을 위해 DS4와 MLX 엔진 중 어떤 것이 더 효율적인지 질문하고 있습니다. 특히 200k 컨텍스트와 대규모 프롬프트 환경에서의 성능 비교를 목적으로 합니다.
주요 내용
- M3 Ultra 256GB 환경에서 DS4와 MLX 엔진 간의 성능 비교 및 최적의 엔진 선택에 대한 조언을 구함
- 약 200k의 컨텍스트 윈도우와 30k-50k 크기의 프롬프트 사용 환경을 전제로 함
- 애플 실리콘 사용자들에게 엔진별 프리필(Pre-fill) 및 생성(Generation) 토큰 속도 공유를 요청함