V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  yanyuechuixue  ›  全部回复第 2 页 / 共 27 页
回复总数  529
1  2  3  4  5  6  7  8  9  10 ... 27  
看了一下,如果用 INT4 的模型,4090 没问题了。精度损失也很少。
但问题是不可能将一块 4090 用在这上面。成本太高了,不考虑保护隐私的情况下,还不如订阅 ChatGPT.

4060Ti 16G 的价格比较低,我买了一块,这个可以用来“全职”部署 LLM, 但目前即便是 INT4 也无法跑在 16G 上。

也许 Windows 的共享显存会有用,但不知道速度会降低到多少。
76 天前
回复了 caojunjie2024 创建的主题 iPhone iPhone 时间旁边的火箭是什么意思哦
@cat 而且是 OP ??
76 天前
回复了 imzcc 创建的主题 Apple Mac mini m4 疑似发货了
天猫的还没发货,还是显示 12.2 之前发货。
77 天前
回复了 yanyuechuixue 创建的主题 Apple 求救 iPhone 救砖
@wangpao 谢谢!好用!非常感谢!
79 天前
回复了 kepan 创建的主题 Apple M4 Mac mini 购买选择
我买了丐版,只花了 3500 。
具体看使用场景,我自己是放到家里作为娱乐和应急办公。
估计跑个 emby server ,socat 端口转发,tailscale 内网穿透,qbitorrent 下载。
最多最多再加一个迅雷下载。
这几个哪怕全都放后台,16G 也够用了。

哪怕应急开 safari 看个视频啥的也够了。

如果是很重的办公,那就不如一步到位买最好的,我多年的经验告诉我,买一次贵的,比买多次便宜的要好的多。
今早晨试过了,北京已经不行了,所以最后天猫买的,天猫教育优惠比京东国家补贴都便宜,还能省出一个国补资格
@dcdlove 我是直接天猫买了
91 天前
回复了 Inuyashaaa 创建的主题 Apple M3 air 比 M1 air 使用体验有多大提升?
同问同问,我只能 16+256 = ~7240 . 大佬指条明路!
我这边似乎延迟比较高,即便是用 mjpg 延迟也在 1s 左右。没有虚拟屏幕,就是直接 stream 的 macbook m1 pro 显示器。用的已经是 5G wifi 了,请问大概是怎么回事儿呢?
感谢! 支持!
@iwdmb 大佬,能说说怎么做的吗?

我用 ollama, 在 openai base url 改成了 localhost, 密钥也已经改了。显示:
(status code 0)
TypeError: Failed to fetch

但下面的 curl 我执行没啥问题,所以不知道怎么整了。
谢谢大佬!
@leeyuzhe 请问这样需要订阅吗?
201 天前
回复了 callmejoejoe 创建的主题 生活 备孕一年没怀上,求指教
垫枕头这个你再查查,印象中蝌蚪是反着重力游动的
285 天前
回复了 Owen728 创建的主题 macOS 如果你被 Mac 系统录屏没有声音的问题折磨过
确实解决了痛点,不错。
但建议发在推广区。
省流:可试用 10 次,价格 6 刀。
买一个东西不是为了供着的。
而且你真的需要 9 个小时左右的续航么?

我做科研用,偶尔跑跑比较大的 MCMC 计算密集型程序,22 年 7 月购买,现在 85% 了,正常用 5 个小时没问题(外加给手机充电),5 个小时,我够用了。

真到了电池撑不过 3 小时的时候,就插电呗,实在不行换电池。
@Rh1 应该还好,现在男的都看明白了,一个人活的可好了
320 天前
回复了 Nazz 创建的主题 NAS 将旧手机打造为超低功耗 NAS
@fanyingmao 可以搞个 hub 呀!
336 天前
回复了 femsdfq 创建的主题 Google Gemini Advanced 赠送两个月的免费试用
比较一般吧,跟 GPT 还有比较大的差距,不知道怎么想到卖 20 刀的
1  2  3  4  5  6  7  8  9  10 ... 27  
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   4431 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 45ms · UTC 04:01 · PVG 12:01 · LAX 20:01 · JFK 23:01
Developed with CodeLauncher
♥ Do have faith in what you're doing.