公司打算部署个本地的 DeepSeek 671B 版本的需要什么硬件配置，有没有大佬告知下
 |
1
JetMac 2 天前
不懂，粗略算的话 1B1G 显存内存，流畅运行至少需要 700G 显存、内存？
|
 |
2
Chism 2 天前 via iPhone
油管有相关的节目，需要 10 个英伟达 5090 显卡或者 20 个 4090
|
 |
3
nicholasxuu 1 天前
便宜的话，有个压缩版的 671B ，192G 的 mac studio 能跑（ input token 要限制在 2000 以内，不然内存会炸）。
正常的话需要大概价值 200w 元的 h10 。 |
 |
4
blackmolycat 1 天前
有看过配置表，8 个 A100
|
 |
5
x1aoYao 1 天前
用 CPU 推理速度怎么样呢？成本应该比 GPU 低，毕竟内存比显存便宜。例如用 128 核的 EPYC 9755 CPU 加 1T 内存，不到 15 万
|
 |
7
mingtdlb 17 小时 38 分钟前
@blackmolycat 配置表出处？
|
Select Language