搞 Ai 大模型的，都是 Python 首选吗？

必须是 Python, 先看看其他语言的库都是把 python 库转译一下，根本没有什么创新，这两年，光大模型的 python agent, 工作流都不知道迭代了多少轮了，还看什么其他语言，看其他实现只会阻碍灵感。

训练和推理计算引擎的底层如 pytorch, tensorflow 都是 c++, 但是那也不是做业务研究干的事情， 最出名的比如 llama.cpp 也是。

搞大模型都是最聪明的一些人，写代码对于他们小意思了，v2ex 上基本都没几个人能进入的。DeepSeek 技术团队中这些信奥赛金牌得主或国家级竞赛选手，有几个不是从初高中就接触编程的。

上面我把 大模型应用开发， 大模型微调和基座混在一起了谈了，

普通人使用 Python 搞搞大模型应用开发，现在这个技术栈迭代还在不断变化，最近都是知识图谱配合大模型，

咱们智商不够上 C9 的就不想什么大模型基座了。

认识一个某 qs 前几的 ai 博士，不知道自己电脑的内存+存储多大

@565656 大概率是数学背景的，做理论方向不关心电脑配置的很多。计算机科学家和电脑发烧友不一样

@565656 虽然有点夸张，但你这是典型的计算机行业的人都会修电脑。。。

这问题就跟为啥市面上外挂大部分都是易语言写出来的一样，真正研究这玩意的，语言只是工具。大家都喜欢使用趁手的工具。

是

@565656 很真实

开发模型尝试各种配置, 数据处理, 训练肯定都是 python 阿

唯一可能不只需要 python 就是线上部署优化, 可能把部分代码用 c++或 rust 重写, 但那是很后面的事, 绝大多数情况根本不会到这一步

torch c++版本叫 libtorch 用 c++也能训练，也能推理，只是一般人用 pytorch 训练， 部署时用其他（毕竟 python 写的程序性能太差了，部署后一般是其他语言了）

确实是，中小学教育都也开始普及了

@565656 同……之前问某软工研究生不知道硬盘是什么

我做嵌入式的小模型，都是用 python 训练好通用模型，再量化成对应平台的模型，这时候就可以用 c/c++ 执行了。

@565656 难怪我过年回家不是被叫去修电脑，就是去调试电视机系统，这刻板印象

@lizhisty #15 hhh

我们有一部分推理是 cpp cuda 手写的

如果是开发大模型应用，并非只有 python 可选，我用 java + spring ai 做了一个开源 web 开发框架： https://xryder.cn