最便宜的得到 32G 显存的方式是什么？

2023-11-05 12:46:48 +08:00
 frankyzf

如果跑大模型，对显存的大小有要求。另外如果是 windows 下需要 Nvidia 的显卡。先谢谢了。自己知道的有配台 Windows 台式机或 Mac Mini ，不知道还有没有其他方式。

3762 次点击
所在节点    问与答
16 条回复
kindjeff
2023-11-05 13:45:24 +08:00
emmm 或许是 intel 核显跑 pytorch 吧，然后插 32 G 内存条
kidlj
2023-11-05 14:27:46 +08:00
找一个大模型算法工程师的工作 :doge:
chesha1
2023-11-05 14:37:30 +08:00
在 GPU 云（比如 autodl ）上租个 A100 ，因为看上去不是专业用途，个人用户自己玩玩的话，还是租比较合算，A100 大概每小时 6 块钱
担心不会用浪费时长，可以去 paperspace 买个包月会员
RiESA
2023-11-05 15:07:05 +08:00
个人玩的话,感觉目前最划算还是魔改的 2080 22G 的版本,才两千多 但是达不到 OP 说的 32G
cwyalpha
2023-11-05 15:42:08 +08:00
4060ti 16g 2
1KTN90lKW9gVJ9vX
2023-11-05 15:46:23 +08:00
把内存分配给显存用、弄个 512g 显存🤔
em70
2023-11-05 16:26:38 +08:00
阿里云已经停售 A100 了，现在 32G 显存最便宜的方法是买 macbook m1 max 32G,京东大概 2 万左右，比买 4090 划算
yummysakko
2023-11-05 17:31:04 +08:00
sxm2 的 V100 吧
icyalala
2023-11-05 17:40:06 +08:00
本地跑的话，Mac Studio 64GB 内存，RTX8000 48G 显存，都是两万上下？
paopjian
2023-11-05 18:00:28 +08:00
超过 24g 就不存在游戏卡了,大模型训练都是多路计算卡,楼上 RTX8000 也算实惠的了,或者 3.7w 的 A100 40G
我觉得你如果还不清楚自己的需求话不如先租服务器试一下?
modestdeveloper
2023-11-05 20:07:05 +08:00
不考虑速度的情况下，mac 确实是一个性价比之选
lithiumii
2023-11-05 21:45:15 +08:00
能多卡的话就买老卡呗
bihui
2023-11-05 22:02:51 +08:00
4060 16g 不够用吗？
netabare
2023-11-06 07:19:33 +08:00
如果不限定操作系统的话，MacBook 好像不错
frankyzf
2023-11-06 10:36:21 +08:00
谢谢大家回复。 @bihui 只是看到文章里提到 13b 的需要 32g ，所以先问下。因为没有实践过，所以不确定实际的效果。
sketcherly
2023-11-06 15:20:06 +08:00
如果只是玩的话可以找一些租显卡的服务，可以看下我之前用过的这个，为了避免广告嫌疑 base64 aHR0cHM6Ly9tYXRwb29sLmNvbS8K ，或者顺着这个思路找个同类产品

这是一个专为移动设备优化的页面（即为了让你能够在 Google 搜索结果里秒开这个页面），如果你希望参与 V2EX 社区的讨论，你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://tanronggui.xyz/t/988766

V2EX 是创意工作者们的社区，是一个分享自己正在做的有趣事物、交流想法，可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX