机械荟萃山庄

 找回密码
 立即注册

QQ登录

只需一步,快速开始

搜索
热搜: 活动 交友 discuz
查看: 17|回复: 0

硬核戳破大模型神话:它根本没变聪明

[复制链接]

3万

主题

3万

帖子

23万

积分

超级版主

Rank: 8Rank: 8

积分
234571
发表于 1 小时前 | 显示全部楼层 |阅读模式
过去一年,全球科技界几乎被同一种狂热的论调所席卷。
从 OpenAI 的 o1 到 DeepSeek 的 R1,不少声音都在高呼:“强化学习(RL)正在让大模型实现自主进化!”
只要给大模型连上自动打分的“对错裁判”,模型就能像当年的 AlphaGo 一样,在黑暗中自我探索,顿悟出人类从未教过的高维推理逻辑,推开通用人工智能(AGI)的大门。
就在所有人都沉浸在这场狂欢中时,一盆极度冰冷、却无比严密的冷水,直接泼到了整个硅谷和 AI 圈的头顶。
在全球顶级人工智能学术会议 NeurIPS 2025 上,一篇来自清华大学 LeapLab 与上海交通大学的论文横空出世。
它在双盲同行评审中创下了一个近乎奇迹的纪录:4 位国际审稿人全部给出满分(6/6/6/6),成为当年全会唯一的“大满贯满分论文”,并一举斩获 NeurIPS 最佳论文入围奖(Runner-Up)。

这篇论文用无可辩驳的扎实验据,击穿了行业心照不宣的神话:
现在的强化学习,根本没有赋予大模型超越基座的全新推理能力。
它所做的一切,不过是把基座模型原本就会的东西,挑着练得更熟练了一点而已。

要想看懂清华这项研究的绝妙之处,我们不妨把大模型想象成两个走进考场的考生。
第一位是“野生通才”(预训练基座模型,Base Model),读完了互联网上几乎所有的人类典籍,脑子里装满了千奇百怪的知识,思维极其发散,但注意力很不集中。
第二位是“特训班考生”(经过可验证奖励强化学习训练的模型,RLVR Model),它在野生通才的基础上,被拉去刷了成千上万道数学和代码题。
做对了就奖励,做错了就惩罚。

现在,考官开始出题。
第一轮规则:每道极难的数学题,只准做一次(业内称为 pass@1)。
“特训班考生”答题又快又稳,一枪命中,得分一骑绝尘;
而“野生通才”因为经常天马行空地胡言乱语,成绩惨不忍睹。
整个 AI 圈的狂欢,正是建立在这一轮测试之上,看啊,强化学习让模型的正确率翻倍了,AI 诞生了自我进化的智能!
然而,清华团队在这个时候,不动声色地换了一把尺子。

第二轮规则:同一道题,允许两位考生各交 256 次完全独立的答卷,只要其中有一份答对,就算过关(业内称为 pass@256)。
于量不可思议的事情发生了,随着答题机会从 1 次、4 次、16 次不断放宽到 256 次,“特训班考生”的成绩很快就触碰到了天花板,后劲不足;
而原本被认为“笨拙”的“野生通才”,正确率曲线一路狂飙,最终不仅追平了特训考生,甚至在大量基准测试中实现了全面反超!
如果强化学习真的教会了模型“全新的解题逻辑”,那么给它 256 次机会,它应该能解出更多“连基座模型想破脑袋都解不出的神仙难题”。
但现实却是:只要给够尝试次数,基座模型能解出的难题,远多于强化学习模型。
测试表明,经过强化学习后的大模型,解题能力不仅没有向外扩张,它的认知边界反而收窄了!

这篇题为《Does Reinforcement Learning Really Incentivize Reasoning Capacity in LLMs Beyond the Base Model?》的论文,系统对比了当下最主流的六种强化学习变体(包括 DeepSeek 采用的 GRPO,以及 PPO、RLOO、Reinforce++ 等),横跨数学、代码与多模态三大严苛基准。
实验揭开了一个近乎残酷的真相:所谓的自我进化,本质上是一场精巧的“概率锐化”(Distribution Sharpening)与“暴力剪枝”。
在预训练阶段,基座模型就像一片浩瀚的原始森林,里面潜伏着无数条通往终点的羊肠小道。
有的路很宽(高概率),有的路被杂草覆盖、极难被踩中(低概率)。
当引入带有结果验证的强化学习(RLVR)时,算法做的事情非常简单粗暴:只要模型撞上了一条能算出正确答案的路,就拼命加大这条路径的权重;
如果算错了,就打压那些分叉
久而久之,森林里只剩下了一条被反复踩踏的高速公路。
对于普通用户来说,体验确实变好了。
问它一次,它就能走高速公路给出正确答案,单次命中率大幅提高。
但代价是极其沉重的,那些潜伏在基座深处、偶尔能通向奇迹的罕见思维路径,全被强化学习当成杂草硬生生铲掉了。

海外技术评论员 Gravix 一针见血地指出:“强化学习并没有发现新的逻辑体系,它只是把熵压缩到了预训练早已潜伏的搜索轨迹周围。”
研究团队甚至做了一组极其苛刻的语言模型困惑度(Perplexity)分析:强化学习模型写出的那套看似神奇的解题长篇大论,拿回给基座模型去打分,基座模型觉得“无比顺滑”。
模型在强化学习后展现出的解题逻辑,早在它作为基座模型出厂的那一刻,就已经潜伏在原本的分布之中。
它从来没有超常发挥,只是不敢偏离高频奖励路径了。

本篇论文的第一作者,是黄高教授的博士生乐洋(Yang Yue)。
这位青年学者此前就展现出非同寻常的“打假”定力与犀利视野。
在视频生成模型 Sora 席卷全球、全网都在狂吹“AI 已经参透物理世界、掌握了物理引擎规律”的时候,乐洋就作为核心作者发表了极具洞见的论文《How Far is Video Generation from World Model》,用严谨的数据指出主流模型对经典物理定律的理解存在系统性偏差。
那项工作当时就赢得了图灵奖得主 Yann LeCun、知名学者 Saining Xie 等国际泰斗的连声赞叹与主动转发。

既然当前的强化学习只是在基座的“存量资产”里打转,大模型到底怎样才能获得实质性的认知跃迁?
清华团队在论文中给出了一个令人深思的对照实验:知识蒸馏(Distillation)。
当他们用一个更强、认知层次更高的“教师模型”,去蒸馏指引较小的模型时,数据曲线上演了截然不同的一幕:较小模型在所有 k 值下的成绩被整体拔高了,整条曲线全面超越了原本的基座。
这项实验表明:全新的思维模式依赖外部更高维度知识结构的注入;
单靠模型对特定题目自我博弈,无法凭空拓展出未曾掌握的推理能力。

网友 Gus 提出了一个极为犀利的思考题:“一个专家发挥稳定,95% 的时间能给出正确预测;
一个普通人满嘴跑火车,但在千奇百怪的猜测里碰巧蒙全了 100% 的可能性。
我们能说后者比前者更聪明吗?”
在真实工业界的产品落地中,答案显然是否定的。
用户打开 ChatGPT,需要的是它第一次就给出靠谱答案,没有人愿意为了一个问题连续重试 256 次。
从商业与工程的角度,强化学习极大提升了模型的“可用性”与“命中效率”,其功绩毋庸置疑。
但如果关心的是科学本身,探讨人类是否已经触及具有“自主进化能力”的 AGI,那么这篇论文就是敲响在所有人耳畔的警钟:
请不要把“射击准星的校准”,误当成了“枪械威力的进化”;
更不要把“走捷径的熟练”,误当成了“人类智能的觉醒”。
科学的进步,从来不靠盲目的造神运动。
在技术狂飙突进的迷雾中,我们需要的恰恰是这样一剂刺骨而清醒的良药。
看清边界,求真务实,更有深度的科学探索才刚刚拉开序幕。


回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

QQ|小黑屋|手机版|Archiver|机械荟萃山庄 ( 辽ICP备16011317号-1 )

GMT+8, 2026-10-21 15:39 , Processed in 0.066626 second(s), 20 queries , Gzip On.

Powered by Discuz! X3.4 Licensed

Copyright © 2001-2021, Tencent Cloud.

快速回复 返回顶部 返回列表