OpenAI工程师：AI离一句话构建应用已经不远

赵迪是OpenAI的机器学习基础设施工程师。2025年初，他从X跳槽过去，此前在X待了近7年。更早的履历覆盖Netflix、Salesforce、摩根士丹利、甲骨文等公司。

马斯克收购X之前半年，赵迪出于个人兴趣用Rust写了个推理引擎，取名Navi。名字来自《阿凡达》里潘多拉星球上驾驭飞鸟的纳威族人。他说，这是做基础设施的人唯一能拥有的一点点浪漫。

测试下来，Navi性能比X当时在用的系统高出一个数量级。它负责粗排和精排环节的神经网络推理服务，先后覆盖X的广告和推荐系统。它为平台省了几百万美元。

Navi的核心优化思路是Batching（批量处理）加KV Cache。这和今天大模型推理的优化思路几乎一致。

X每天产生约10亿条推文，推荐系统最终筛出100条展示给用户。流程分三步：先从10亿筛到几百K，再用轻量级神经网络粗排到几十K，最后精排到100条以内。

马斯克收购Twitter后，工程师规模从两三千人裁到约100人。原来的Twitter被叫“小谷歌”。很多人来自谷歌，沿袭了写文档、达成共识、计划数月的文化。马斯克手下一个叫George的工程师，第一个破解iPhone的人，说100个工程师就够了。

马斯克给团队安排任务，周期只有几周，几个月的项目在他脑海里不存在。不能对他说No。赵迪认为他做事完全遵循第一性原理，聚焦事情的本质，忽略无关的边角因素。

赵迪对马斯克的看法，以前是纯粹的敬佩，现在是在认清他是个混蛋的基础上仍然敬佩。他说，马斯克是他见过的“最大的混蛋”，但能让人做到不可能的事情。

赵迪加入OpenAI，很大程度上因为认同Sam Altman说的Intelligence as a Service，智能即服务。

他对AGI的定义很个人化：只需要对模型说“给我构建一个应用”，它就能做完，而且不出错。他认为现在已经非常接近了。

他判断，2022年11月ChatGPT 3.5的发布是从0到1的关键一步。之后的Agent创新，都是从1到100。用他的话说，“震撼，再也没有了。”

震撼之后是工程活。OpenAI内部，Codex的使用量从年初到现在增长了8到10倍，亚太地区达到12倍。原本一个月完成的开发任务，现在一周就能做完。

赵迪预判，初级工程师可能出现断层，而有完整底层编码经验的工程师更吃香。初级岗位减少，年轻人能积累完整底层编码经验的机会也跟着变少。

关于优秀工程师的标准，他认为有没有大模型都该一样：看创造的价值和影响，不是看手写代码量。主持人把未来优秀工程师定义成能更清楚发现问题、更高质量驾驭模型的人。

赵迪对更远的社会后果不乐观。他说，智能到最后会变成区分阶级的工具。他的推理是：资本加资本就能产生价值，滚雪球的速度会远超以往。有钱人甚至不再需要底层的人。底下的人存在的意义是什么？如果机器人成熟，连劳动力也可能不需要了。

智能会不会变成少数人的特权，一部分取决于价格。赵迪的判断是：模型能力也许只比别家高10%，但可以定价翻倍甚至十倍，很多人愿意付费。就像苹果手机比安卓贵那么多，功能上也许只好10%到20%。

如果目标是让智能成为公共服务，推理服务的工程化能力就和模型训练能力同等重要。这直接决定大规模服务的成本和稳定性。这正是他作为机器学习基础设施工程师的工作。

赵迪不认为会出现一家通吃的局面。大模型市场体量足够大，每个人的切入点不一样，都有存在空间。

赵迪有小孩。他说，他不想人类社会生活在这样急速分割的社会里。