机械荟萃山庄

 找回密码
 立即注册

QQ登录

只需一步,快速开始

搜索
热搜: 活动 交友 discuz
查看: 85|回复: 0

AI女演员采访突然狂飙粤语 暴露大模型AI的致命缺陷

[复制链接]

2万

主题

3万

帖子

23万

积分

超级版主

Rank: 8Rank: 8

积分
231738
发表于 前天 15:05 | 显示全部楼层 |阅读模式
2026年9月18日,在一档收视率极高的英国电视访谈节目中,发生了一起让人瞠目结舌的直播事故。备受争议的人工智能女演员提丽·诺伍德(Tilly Norwood)在接受著名主持人皮尔斯·摩根(Piers Morgan)的专访时,突然毫无征兆地在镜头前狂飙起了貌似流利的粤语。


当时,这档名为《摩根无审查》(Piers Morgan Uncensored)的节目正在进行现场直播。提丽这次上节目,主要是为了宣传她即将上映的首部人工智能长片电影《失调》(Misaligned)。和她同台接受采访的,还有曾获得奥斯卡提名的英国资深真人老戏骨汤姆·康蒂(Tom Conti)。聊着聊着,康蒂抛出了一个很自然的问题,他问提丽,在这部新电影里,其他的搭档演员是真实的人类,还是像她一样由电脑生成的虚拟人物。

面对这个问题,提丽一开始的回答非常得体。她用英语说,其他演员也全都是数字孪生,这是一部混合制作的电影。然而,就在她说到“这意味着……”的时候,她突然卡壳了。画面中的提丽停顿了大约两秒钟,表情依然保持着那种自信但有些空洞的微笑,紧接着,她张开嘴,竟然说出了一段长达十多秒钟的散装粤语。

主持人摩根一脸茫然,随后毫不客气地打断了她,直言不讳地问,你看起来完全是莫名其妙、毫无理由地讲起了中文,你为什么要这么做?被打断后,提丽似乎又瞬间清醒了过来,立刻切回英语连连道歉。她狡辩说自己刚才只是出了点小差错,有时候脑子里的线路会有点搭错。这段视频一经播出,立刻在各大社交媒体上疯传,所有人都想知道,这个号称最聪明的人工智能到底怎么了。

面对排山倒海的质疑,打造提丽的英国人工智能公司创始人兼首席执行官埃琳·范·德·维尔登(Eline Van der Velden)却表现得十分淡定。公司的公关团队在接受各大媒体采访时坚称,这绝对不是系统死机或者故障。他们给出的解释是,提丽精通三十多种语言,当时她很可能是在收音时,把现场的杂音或者主持人的某个发音误听成了粤语词汇,这才迅速自动切换了语言模式。他们甚至说,提丽可能只是有点爱显摆,想展示一下自己的语言天赋。

这种把人工智能拟人化的公关说辞听起来很巧妙,仿佛机器也会像人类一样偶尔走神听错话。然而事实是健康的人类在日常对话中,绝对不可能仅仅因为误听了一个词,就突然切换成另一门外语,并且滔滔不绝地对着一个完全听不懂这门语言的人说个没完。
掌握多门语言的人在交谈时,如果遇到了发音相似的双语同音词,确实容易在无意识中发生语码转换(Code-switching)。但关键在于,人类的大脑有着极其敏锐的纠错本能。一旦发生这种嘴瓢,人类几乎会在一两秒内瞬间激活自我纠错机制,顶多就是蹦出一两个外语单词,绝不可能连篇累牍地说下去还毫无察觉。
当你面对一个地地道道的英国白人主持人时,你的大脑会在无意识层面死死地踩住粤语系统的刹车,因为你知道对方完全听不懂。在医学上,除非是脑额叶受损或者患有双语失语症等严重的神经病理损伤患者,否则人类不可能做出提丽那种毫无社交常识的脱线反应。
既然人类不会犯这种低级错误,提丽为什么会这样?这恰恰暴露了人工智能和人类大脑在底层逻辑上的根本差异。大语言模型并没有生物学意义上的社交抑制神经回路,它们根本不明白什么是社交常识,它们的本质工作只是基于数学概率,去预测下一个最有可能出现的词汇。
真实发生的情况极有可能是这样的:现场的自动语音识别(Automatic Speech Recognition)系统在捕捉声音时,因为收音不清晰或者有环境回音,错误地将某个杂音转译成了一个粤语字符。当这个微小的错误数据被喂给底层的多语言交互模型后,灾难就开始了。因为语言模型有着自回归(Autoregressive)的特性,一旦它算出了第一个粤语词,在数学逻辑的推导下,下一个词也是粤语的概率就会呈指数级暴增。于是,整个系统就像滚雪球一样被彻底带偏,陷入了自说自话的粤语死循环中,直到被主持人强行打断。


说到底,这只是一次极其典型的工程代码漏洞,但幕后团队却把它包装成了一场充满人情味的小意外,这背后其实大有文章。要知道,提丽作为试图替代真人演员的人工智能产物,这大半年来一直遭到好莱坞演员工会的强烈抵制和抨击。大批真人演员担心自己的饭碗被机器砸掉,对这种虚拟技术可谓是恨之入骨。
在这个节骨眼上,提丽在电视直播中不小心秀了一把多语言能力,反而阴差阳错地成了一次绝佳的病毒式营销。那部本来没多少人关注的低成本混合电影,瞬间冲上了全球各大社交平台的热搜榜。究竟是真故障还是精心策划的砸场子炒作,或许只有写代码的程序员心里最清楚。但可以肯定的是,想要让人工智能真正像人类一样懂得察言观色、知错就改,科技公司要走的路还很长。


评分

参与人数 1威望 +3 收起 理由
Architect + 3

查看全部评分

回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

QQ|小黑屋|手机版|Archiver|机械荟萃山庄 ( 辽ICP备16011317号-1 )

GMT+8, 2026-9-25 00:27 , Processed in 0.062945 second(s), 20 queries , Gzip On.

Powered by Discuz! X3.4 Licensed

Copyright © 2001-2021, Tencent Cloud.

快速回复 返回顶部 返回列表