机械荟萃山庄

 找回密码
 立即注册

QQ登录

只需一步,快速开始

搜索
热搜: 活动 交友 discuz
查看: 74|回复: 1

国产大模型“深度思考”时几乎使用英文思维链

[复制链接]

2万

主题

3万

帖子

23万

积分

超级版主

Rank: 8Rank: 8

积分
230210
发表于 4 小时前 | 显示全部楼层 |阅读模式
最近发现国产大模型的思维链,用英语想问题的现象非常普遍。
大家第一反应就是蒸馏,但还有一个更现实的原因:语料。
Common Crawl这个开源语料库。它官方每个月公布抓取统计:最近几次抓取里,英文网页稳定占 40% 以上,中文只有 4.4% 左右。
另一个按全球网站内容统计的口径(W3Techs)更夸张:英文占近一半,中文只占 1.3%。
曾经Meta的Llama1公布过数据配方:67%网页+15%网页精选,剩下的是 GitHub 代码、维基百科、书籍、论文、Stack Overflow,这几个高质量语料来源,清一色是英文主导的。
中文语料量少就算了,关键是质量还堪忧。
AI生成的文章发上网,又被别的AI当语料抓走,于是文章逐渐变成泔水,我们的官媒专门发过《"数字泔水"污染加剧,怎么管?》。

14个模型,1400多个思维链样本都拉了一遍数据,发现:
1、分数越高,思维链中的英文占比就越高。
2、分时较高,但以中文思考为主的模型有多少个呢?0个。

模型在面对问题的时候会先判断难度,然后会分配一个思维链预算,难的问题走长思维链,简单的问题走短思维链,也就是深链和浅链)
可以分为三类:
第一类:英文脑原生,智谱-5.3、智谱-5.3-flash、kimi-k3。
整体英文占比 51.2%–54.3%,深链 53.8%–57.8%,浅链深链一个样。它们思维链长度和英文占比的相关性,几乎是0。说明不管是难问题还是简单的问题,都是英语思考为主。
第二类:双语脑:千问3.8-max、千问3.8-flash、千问3.8-max-0902、腾讯混元4-预览、deepseek-V4-flash、V4-pro、小米-v2.5-pro、小米-v2.5。
它们的特征是:浅链说中文,深链就换英文。思维链长度和英文占比的相关性高达 0.455–0.872,想得越深,英文越多。
尤其切换最猛的是千问系:3.8max0902版从浅链到深链,英文占比暴涨52.6%;3.8-max暴涨50.2%,3.8-flash暴涨45.4%。平时浅想的时候,浅链英文占比只有百分之几,看着就是纯中文脑;一进入万字深想,英文直接过半。
第三类:中文脑: 豆包模型-2.1-pro(0.2%),从头到尾几乎不出现英文。


回复

使用道具 举报

309

主题

7242

帖子

4万

积分

论坛元老

Rank: 8Rank: 8

积分
40447
发表于 4 小时前 | 显示全部楼层
中文没有语法,很多预料充满了诡辩,别说机器去学习了。
就是聪明的人去学习,在没有好老师监督的情况下,大概率
就学偏了。
最深层的原因就是汉语各种语料和知识中,虚假,夸大成分
非常高。
只要需要靠谱的事,就没法用汉语去思考。
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

QQ|小黑屋|手机版|Archiver|机械荟萃山庄 ( 辽ICP备16011317号-1 )

GMT+8, 2026-9-17 19:19 , Processed in 0.107688 second(s), 19 queries , Gzip On.

Powered by Discuz! X3.4 Licensed

Copyright © 2001-2021, Tencent Cloud.

快速回复 返回顶部 返回列表