V2EX › yangyaofei 的所有回复 › 第 1 页 / 共 80 页

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

现在注册

已注册用户请登录

1 2 3 4 5 6 7 8 9 10 ... 80

❮

❯

7 小时 22 分钟前

回复了 qianchengv 创建的主题 › 机器学习 › 有没有类似 V2EX 这样的专注聊大模型训练和推理相关内容的社区网站推荐？

现在基本上就是在推特上看相关的信息, reddit 貌似有类似于 localllama 这种群组, 基本上看看 huggingface, llama.cpp, vllm 的 repo 和 issue 就能看到基本上最新,且工程上能用到的东西了.

真的比较深入的, 要不是业内(真正的也就那几家, 剩下的算不上真业内)自己搞自己交流, 要不是学术上的交流, 论坛社区更多是推理和 prompt 或者读个论文什么的没有那方面的实践哪儿来的交流.

当然如果有, 我也想去

17 天前

回复了 ethdesign 创建的主题 › 问与答 › 一个 10 人左右小团队，想私有化部署一套项目管理工具，求推荐。

如果不是很复杂, 不如直接 git 管理, 有 issue 什么的, 其实也是够用的

17 天前

回复了 songxy6119 创建的主题 › 日本 › 关于去日本旅游住宿地点的选择

建议第一次去的话, 找一些好一点的酒店, 会减少很多不必要的麻烦的不佳体验, 等之后玩明白了再图便宜之类的.

我觉得大概 500 到 700 的酒店,一般来说就很不错了,地点也不会很偏

还有, 可以算一下交通费用, 如果合适的话, 可以买 jr pass, 首次出去的话会增加体验和减少麻烦.

27 天前

回复了 cloudzhou 创建的主题 › 职场话题 › 大龄被裁大头兵职业感想（二）

@cloudzhou #21 是的, 毕竟很多项目就是一锤子买卖. 复用更是很难的事情. 有时候看开源源码和给他们提 PR, 挺羡慕他们的代码要求和质量的.

27 天前

回复了 cloudzhou 创建的主题 › 职场话题 › 大龄被裁大头兵职业感想（二）

@cloudzhou #13

可能是我自我感觉太过良好, 看看自己 3 5 年前写的各种代码, 觉得写的真的差, 而且效率低很多,

有时过于理想写了一堆看起来优雅但可能大部分都用不到的代码(而且还有很多想不到的逻辑炸弹), 有时又过于草台班子. 现在至少比原来强了很多, 在优雅的实现和效率之间找到了现在觉得很好的平衡.

所以我觉得自己比 3 5 年前强多了, 是他们不识货(或者说识货的成本太高, 不愿意这么做)

你说的那个全是小年轻的那个想法, 会让代码在不知道什么时候蹦一下, 公司的小年轻走了半年了, 至今每几周都会被他的"奇思妙想"坑一把, 有点把握不住自己的奇思妙想的感觉(想法挺好, 但是实现的过于莽了).

27 天前

回复了 cloudzhou 创建的主题 › 职场话题 › 大龄被裁大头兵职业感想（二）

看着这样的大佬也只能被裁, 真的是瑟瑟发抖.

仔细想想,

是大佬技术不行了么,好像不是(从前到后串得下来, 给个任劳任怨的小弟就能撑起一个项目).

是这样有技术的人不被需要了么, 好像也不是(一堆活要干, 那些不会的真的把活干的稀碎).

本来想用通缩与债务的双螺旋暗讽一下大环境的, 但是想想又不太是.

难道, 真的是程序员的尽头是管理层么, 比起管人写点实际的东西钻研钻研东西舒服多了...(而且不是所有人都能去管别人)

30 天前

回复了 nlzy 创建的主题 › Local LLM › 三千预算本地 70b 大模型

本来想进来看乐子的, 没想到真有东西, 以为 200 买个树莓派剩下的买 api,哈哈哈哈

vLLM 是支持 ROCm 的, 不知道性能怎么样, 要是能上 4 块并上 65536 长度, 家用和开发就能凑合

33 天前

回复了 Livid 创建的主题 › V2EX 站点状态 › 20241230 - vLLM + Qwen2.5-Coder-32B-Instruct 驱动的新的标签系统

@Livid #4 哦, qwq llama 肯定是不行的, 前者是尽量 CoT 会输出很多中间过程, llama 个代都对中文支持很不好, 我想说的是比如 qwen2.5-instruct 这种非 coder 模型. 如果显存够的话, 65B 的 4bit 量化模型性能很不错的

生成原文没有的词挺正常的, 毕竟生成模型, 而且也不一定影响结果的正确, 想避免的话可以 prompt 加入用原文的词的设定, 想进一步控制的话, 可能性能就下降很多了(比如前面的 Guided 方式也可以实现)

34 天前

回复了 Livid 创建的主题 › V2EX 站点状态 › 20241230 - vLLM + Qwen2.5-Coder-32B-Instruct 驱动的新的标签系统

可以用 guided 参数让模型输出固定格式的内容 https://docs.vllm.ai/en/latest/usage/structured_outputs.html, 在加上两部输出(先输出标签格式随意, 输出内容用 LLM 再格式化为 json), 可以获得很好的效果, 当然 prompt 和模型够强够好一部也没问题.

还有, 我好奇为啥用 coder

75 天前

回复了 Koril 创建的主题 › 程序员 › 关于 SpringBoot 中的并发请求外部接口的需求解惑

如果不想把程序写很大(MQ + 消费者之类的), 直接请求进来存数据库, 对应某个字段为任务是否执行, 然后 scheduler 去找没有执行的数据, 执行并把结果添上, scheduler 后面想加多少线程就随意了.

其实就是相当于用数据库直接当 mq 用, 前台请求只是插入挺简单的速度回很快

89 天前

回复了 jackwang123 创建的主题 › 投资 › 30 万存款应该如何理财？本人存款大概 30 万，目前大部分放在余额宝，不到 5 万放在基金和股票了，不会炒股，都是瞎买的，也没盈利。能不能推荐一下科学点的理财方式或者思路，把收益放大？不能投太多精力，还是稳健型为主

定投黄金 ETF 吧, (长期持有联结 A 就行)

美元还没有个定数建议等等看看, 相信沪深股市可以沪深 300 定投

建议直接支付宝买就行, 反正差不太多

90 天前

回复了 VERT1GO 创建的主题 › JetBrains › 购买个人版 jetbrains IDE，有什么优惠可以用吗？

别去中国官网, 把位置调到比如日本, 现在汇率比较好, 还能省不少,我看邮件明年日本也要涨价

94 天前

回复了 DigitaIOcean 创建的主题 › 电动汽车 › 纯讨论，国内车的动能回收是否就是单踏板模式？危险点在哪里

动能回收和单踏板不是绑定关系, 单踏板可以实现动能回收,但是不是所有的动能回收都是单踏板.

动能回收一般(除了特斯拉这种)都是用的 CRBS, 在踩踏刹车的时候也会启动动能回收, 且和踩踏形成相关, 并在动能回收不能提供足够的制动力的时候增加物理刹车.

也就是说, 为了动能回收而做成单踏板是逻辑不顺的, 应该是为了在省钱的情况下实现动能回收, 才做成单踏板.

101 天前

回复了 feather12315 创建的主题 › 投资 › 聊聊央行的那三个政策吧

@feather12315 #48 谢谢, 我证券账号都没有,微操玩不来太占用精力, 就 ETF 就够了, 我去看看 300 和 A500 啥区别

101 天前

回复了 feather12315 创建的主题 › 投资 › 聊聊央行的那三个政策吧

@shijingshijing #46 谢谢解答,去定投点沪深 300ETF 了

101 天前

回复了 feather12315 创建的主题 › 投资 › 聊聊央行的那三个政策吧

@feather12315 #44 是, 弄懂了之后感觉这个方法挺牛逼的, 就是感觉有点小心谨慎抠抠搜搜的

101 天前

回复了 feather12315 创建的主题 › 投资 › 聊聊央行的那三个政策吧

@feather12315 #42 啊? M1, M0 不是`真`钱么, 这个的意义不是大家因为经济下行更愿意储蓄, 导致印钱也没有用, 不会进入市场(M2), 这种方式就是把 M1,0 变成了 M2(当然 01 也没有减少, 只是撑大了 M2 增加了流动性)

1 2 3 4 5 6 7 8 9 10 ... 80

❮

❯