老哥们,求一台用来学习 ai 的主机,求推荐,预算 7k 以下,能省就省

24 天前
 nocae
国内某双非二本人工智能大三学生,目前是备战考研,所以不太着急需要,可以先买云服务器跑着,需要的时候。希望性价比高一点,一些基础的 ai 都可以跑一下,最近 50 系发布,求助下老哥们,语文不太好,发的比较乱,老哥们见谅。
2076 次点击
所在节点   计算机
32 条回复
AlexHsu
24 天前
你就推理的话 macmini 也够用了 5070ti 有 16g 显存性价比也不错 就是预算太低了
dropdatabase
24 天前
1x GH200 (96 GB)
ARM64 + H100
64 CPU cores, 463.9 GB RAM, 4.4 TB SSD

上面这配置 1.5/h 性价比拉满,按小时付费。
chapiom
24 天前
可以买 16g 的 3060ti ,大概 3400-3600 的样子。
7k 预算还是够的。
chapiom
24 天前
打错了是,4060ti
nocae
24 天前
@dropdatabase
老哥这个是哪里的云服务器平台啊,这么便宜
nocae
24 天前
@Quik 我去这个可以啊,我之前微调 llama 的时候遇到过,但没有细看,我研究下 pro 和 pro+
nocae
24 天前
@AlexHsu 主要拿来学习,想多接触下 cuda 的生态
nocae
24 天前
@tool2dx 确实,4060ti 算是 16g 最便宜的了,但最近一直涨价😭
nocae
24 天前
@riceball 我现在就是 amd 的笔记本 r76800hs ,可惜内存只有 16
nocae
24 天前
@uprit 确实啊,3090 也不算那么太贵 24g 的话,担心矿卡就是
JoonSumisu
23 天前
现阶段性价比最高的是 2080 22g 吧

之后就是 3090 ,但是比较重要的一点是要看 PCB 的型号,不然会遇到 nvlink (如果要上的话)接不上的问题
https://linustechtips.com/topic/1247285-rtx-3090-pcb-board-types-reference-vs-founders-vs-non-reference/
矿倒没啥所谓,只要大店给个两年保就行了

主板方面,如果有时间其实可以研究下 x299 平台,
曾经的尾缀带 x 的,例如 Intel Core i7-6950X 能提供 40 个 pcie 线路,等于 16+16+8 ,每张卡能完全跑满(虽然 pcie 4X8 3090 游戏能跑满,但是推理训练方面我还没找到资料)

另外你有笔记本的情况下,建议这个机器直接跑 linux 系,或者 pve 来打游戏。
我这段时间用下来 wsl 还是太玩具了,还有载入其他盘模型速度爆降的恶心 feature ,这个问题已经很多年了,微软是感觉不打算修了。
nocae
22 天前
@JoonSumisu 确实,我研究,感觉确实搞个类似 linux 服务然后笔记本直接远程方便一点

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://tanronggui.xyz/t/1105162

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX