I want to add a second 7900XTX, question about pcie2/3/4

2026년 6월 23일 오후 07:41 Error upvotes 0 comments

Read Original

GPU Hardware LLM

📝 Summary

사용자가 더 많은 VRAM 확보를 위해 기존 7900XTX에 두 번째 GPU를 추가하여 총 48GB를 구성하려는 계획에 대해 기술적인 조언을 구하고 있습니다. 현재 사용 중인 B450 메인보드의 PCIe 2.0 슬롯 대역폭 저하가 성능에 미칠 영향과 레이어 분할 방식에서의 효율성을 우려하고 있습니다.

🔑 Key Points

• 두 번째 GPU 장착 시 발생하는 PCIe 2.0 대역폭 제한이 LLM 추론 성능에 미칠 영향에 대한 의문
• Tensor Parallelism 대신 레이어 분할(Layer Splitting) 방식을 사용할 경우 PCIe 속도 저하가 문제가 되지 않을지에 대한 기술적 확인 필요
• 48GB VRAM 확보를 위한 하드웨어 업그레이드 비용 대비 효율성 및 메인보드 교체 필요성 검토