“95%的智能体都在白烧钱!”
段 45 秒的播客切片最近在硅谷 AI 圈传开,镜头前是 MIT 年轻博士生 Alex Zhang,语气很平静,讲的内容却把顶级 AI 实验室一直不愿明说的事挑明了。主持人问了一个大家都想知道的问题,为什么硅谷最顶尖的研究员在排队离开 OpenAI 和 Anthropic,出去自立门户,张的回答很直接,因为巨头内部原有的技术路线还在持续赚钱,当 "把模型越做越大" 这条老路照样能带来漂亮跑分和订阅费,大厂高管就没有动力把手里的天价显卡分给那些离经叛道的新想法,拿不到算力的聪明人只能带着自己的非共识构想离开,谈到巨头投入巨大的多智能体集群(Agent Swarms),张的评价更尖锐,他相当确定那些集群里大约 95% 的探索完全没用,纯粹是在白烧 Token。要看懂这场出走潮,先得看清 "大厂旧方案" 和 "新锐实验室(NeoLab)" 之间的博弈。过去几年硅谷大厂奉行的旧方案就是 "大力出奇迹",买更多显卡、喂更多数据、把参数堆得更高,模型就会更聪明,这套方案成功到变成了一副金手铐,风投机构 Menlo Ventures 合伙人 Deedy Das 指出,巨头已经陷入经典的 "创新者窘境",不敢偏离 "编程助手" 这棵摇钱树,不敢推出可能蚕食现有 API 收入的新物种,也看不上起步阶段低于 10 亿美元的创新苗头,于是顶尖大脑们纷纷出走创办独立机构,从 Ilya Sutskever 的 SSI 到 Thinking Machines、World Labs,3 年内超过 40 家 NeoLab 成立,累计融资约 400 亿美元。
离开大厂温室的叛逃者如果还沿用旧方案硬拼算力,下场会很惨,达斯算了一笔账。一家初创公司就算融到巨资,买 1000 张英伟达最新 GB300 显卡(约 14 个 NVL72 机柜),3 年租赁和运营成本高达 1.25 亿到 1.5 亿美元,还要配套 2 到 2.5 兆瓦电力,这 1.5 亿美元每个季度能跑出大约 10²⁵ FLOPs,只够训练出一个初代 GPT-4 水平的模型,比今天大厂前沿模型落后 1 到 2 个数量级,训练期间如果别家发布了更好的开源模型,这笔巨资瞬间打水漂,就算把闲置显卡拿去现货市场转租,利用率低于 60% 每天都在亏钱,前线研究员 Zeeshan Patel 的观察也很直接,融了几亿美元的 NeoLab 手里通常只有几千张卡,在巨头面前不值一提。
但资源极度匮乏反而成了进化催化剂,算力不够挥霍,研究员才会被迫停止无脑堆参数,转向更高效的算法范式。在处理复杂长任务时,旧方案和张提出的新方案对比很鲜明,让 AI 读几百页财报或者改一个庞大代码库,传统做法只有两招,要么暴力扩大上下文窗口(Context Window),号称能一口气塞进 100 万甚至 200 万字,要么让模型边读边做摘要压缩,这套做法的致命问题叫Context Rot,就好比让一位绝顶聪明的学者一口气生吞 1000 页电话簿,期间不准记笔记也不准用目录检索,读到第 500 页他早就内存过载、注意力涣散,前面的关键数字忘得一干二净还开始胡言乱语,而且每次提问系统都要把这 1000 页从头重新计算一遍,算力账单指数级上涨。
张在博士一年级时想过一个问题,为什么非要把所有资料硬塞进大模型的嘴里呢?他在期中考试前夕把新点子匆忙写成博客发到网上,本以为无人问津,结果在开发者社区引起广泛关注,论文最终被 NeurIPS 2026 收录,这就是递归语言模型(Recursive Language Models,RLM)。RLM 相比大厂粗暴扩窗口的做法做了减法和解耦,它不把几百万字文档直接塞进模型的注意力窗口,而是把文档作为外部变量存进一个持久运行的 Python 代码环境(REPL 沙箱),主模型的脑子始终保持清爽,主模型不需要通读全文,而是像程序员一样写几行简单 Python 代码(比如正则表达式或关键词切片),按需去外部环境精准捞取需要的段落,遇到难啃的局部问题,主模型直接在代码里写一行指令召唤几个全新的子模型(它自己的克隆分身或者更便宜的小模型),把切好的小片段丢给分身处理,最后在代码层把分身的汇报汇总、验算。
如果说 RLM 是一套具体招式,张两周前发表的另一篇文章则捅破了行业的窗户纸。当时他的研究处于枯竭期,就找到同为 MIT 博士一年级、数学极好的好友 Zhening (Zed) Li,想把脑子里盘桓已久的直觉写成严谨的数学公式,两人推导了很久,突然意识到强行搞数学形式化是个 Massive Footgun,反而把最深刻的系统直觉掩盖了,于是他们在最后几天撕掉草稿,重写成一篇通俗却有杀伤力的宣言,The Mismanaged Geniuses Hypothesis,MGH。这个假说的核心判断是,今天的大模型并不蠢,经过海量预训练之后,它们在写代码、逻辑推导、知识归纳这些微观动作上已经是不折不扣的 "天才",问题在于做复杂大项目时频频翻车,是因为人类做了个糟糕的传统算法。传统算法指望靠一条单线提示词让一个模型从头到尾把复杂工程干完,干不完就怪模型参数不够大,嚷嚷着等下一代十万亿参数的巨无霸。MGH 则认为现阶段核心瓶颈在Scaffolds,模型Scale已经足够,关键在如何组织和管理,只要把任务拆解、工具隔离和结果验证的 "管理制度" 建立起来,现在的模型就能爆发出下一代模型的能力。
这一理论很快在工程界得到印证,分布式 AI 平台 Prime Intellect 把 RLM 架构全面落地,做成开源智能体框架,在考验组合推理深度的 ARC-AGI 基准测试上表现突出。他们的工程改进直切要害,主模型只负责在 Python 环境里写调度逻辑,绝不亲自去干翻网页、读文件这种消耗大量 Token 的脏活,所有重度工具调用全部下放给子模型,确保总指挥始终清醒,主模型可以在代码里一行指令同时派发几百个子任务llm_batch,不用像传统 Agent 那样排队死等,速度提升数倍,沙箱里还设置了一个带状态的答案面板(answer 字典),主模型在多轮循环里反复修改打磨结果,确认无误后把状态改成 ready 才正式交卷,这呼应了播客里让很多开发者认同的判断,未来的 AI 产品本质上是一个个精密的代码脚手架,Harness留下,底下的模型随时可以换。
巨大的能耗,大量不知所云的输出,各种假托“幻觉”,
我说过一个例子,讲涡桨,我就是按流动计算过来,AI需要在浩如烟海的鱼料库里面挑选概率,找概率最高的那个料,而那个料的基础逻辑是错的,
张益唐的论文写的不错,答辩的时候 ,被发现引用其导师的基础理论有问题,哈哈,鸟国没有否定张益唐,而只是再推张的论证逻辑,无误,授予博士,但论文的结论却是完全错误的,AI没有这个能力
页:
[1]