確定！家用70B LM最優選電腦是二手Mac Studio M2 Max 64GB

Youtube 作者「鹏哥的AI」在影片展示了在「Mac Studio M2 Max 96GB」運行 Deepseek1.5 到 70B 佔用電腦資源的情況。雖然沒有明確提及，但看作者在 Ollama 執行，應該是執行 q4 量化版。

最後整理出 70B 模式最多約佔用 44GB 顯示記憶體，雖然用了 22 分鐘才回答完問題，但給出的文章質量等同於專家回覆，相當於一篇小論文等級。

雖然我還在雲沒有買硬體，依我想用來輔助 Coding 用途估算，32B 模型應該是速度快及回答質量佳的最優選，高峰只佔用 22GB 顯示記憶體，也許有 24G VRAM 的二手 Nvidia 3090 會是更好的選擇！

最後更新日期：2025-02-23

Views: 10