现在买 3090TI 玩 AI 靠谱吗

271 天前
 Tuatara

想入一张显卡研究下 AI 。对比下来觉得要么 3090TI ，要么 4070TIS ，倾向于 3090TI ，因为 24g 显存宽裕一点，照现在模型的发展 16g 担心以后会不够用。16g 跑现阶段的模型大部分时候压力都不大，但比如开个 SDXL+四五个 lora ，估计 16g 也带不动了。

现在的问题是对显卡一无所知😂看到说 30 系默认全矿的，又有说 3090TI 不是矿的。想问下老哥们，3090ti 现在能入吗，能的话什么渠道比较靠谱，合理的价格大概多少？

另外我不玩游戏，实话说如果没有太大的性能差异我是能接受矿卡的，就怕以为是轻度锻炼没想到是深度锻炼，那就不能接受了。。

11075 次点击
所在节点    Local LLM
91 条回复
Tuatara
270 天前
@1138743695 对，我看的很多是 b 站 up 的 SD 教程，大多是要图形化工具，而且是打包好的只有 windows
Tuatara
270 天前
@1138743695 其实还有一些工具也都是只有 windows ，我之前做 ai 孙燕姿，要做人声分离，用到的软件就只有 win
first2wood
270 天前
刚好看到这个，我看好多人用的 P100 和 P40 。https://www.reddit.com/r/LocalLLaMA/comments/1cu7p6t/llama_3_70b_q4_running_24_toks/
ShadowPower
269 天前
我想起这个模型：
https://civitai.com/models/332076/kohaku-xl-delta

用两块 3090 显卡，在 360 万张图片（只比初代 NovelAI 少一点）上微调 SDXL 不到一个月得到的模型……
rainbowmolly
269 天前
@sleepybear1113 “因为我不懂，所以别人都是无脑”
chesha1
269 天前
@plasticman64 能比得上同售价的 N 卡吗？除了显存大其他不全是劣势？

真的性能好怎么只看见论坛和视频博主在吹，发论文和做大模型的商用的团队里，有 0.01%用 mac 吗？
jimrok
269 天前
学习和调试机应该是要配置一台的，N 卡就行。租卡适合模型都调试完毕了，要进行大规模训练。
Tuatara
266 天前
@first2wood 这些卡太高级了，我都不会组😂另外好像还有些兼容性问题，感觉还是更适合真正研究/训练 AI 的人用，我这种业余玩家主流 N 卡最主要的好处是教程多社区大，有问题好解决
Tuatara
266 天前
@ShadowPower 有意思，更纠结了哈哈哈😂

@jimrok 我也是这么想
lancelvlu
266 天前
https://github.com/XiongjieDai/GPU-Benchmarks-on-LLM-Inference 苹果芯片 LLM 推理可以参考这个
glouhao
265 天前
@imoru 大佬，这个关机后训练的东西还在么？能跑激动人心的图么？

这是一个专为移动设备优化的页面（即为了让你能够在 Google 搜索结果里秒开这个页面），如果你希望参与 V2EX 社区的讨论，你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://tanronggui.xyz/t/1041781

V2EX 是创意工作者们的社区，是一个分享自己正在做的有趣事物、交流想法，可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX