机械荟萃山庄

 找回密码
 立即注册

QQ登录

只需一步,快速开始

搜索
热搜: 活动 交友 discuz
查看: 322|回复: 1

智驾接入deepseek 有个鸡巴意义 deepseek有多危险

[复制链接]

2万

主题

2万

帖子

18万

积分

超级版主

Rank: 8Rank: 8

积分
180016
发表于 2025-2-9 09:25:01 | 显示全部楼层 |阅读模式
本帖最后由 寂静回声 于 2025-2-10 14:34 编辑





《华尔街日报》与AI安全专家测试发现,DeepSeek比OpenAI、Google和Anthropic的产品更易被“越狱”(Jailbreaking),并且提供危险性内容。
AI开发商通常会训练自家模型,使其不会分享危险信息或支持某些冒犯性言论。例如,这些应用通常会拒绝直接请求,不会教授如何制造大规模杀伤性武器等。
《华尔街日报》报导,测试显示,DeepSeek这款自诩低成本开发的聊天机器人会向用户提供具有危害性甚至不法内容,如制造禽流感病毒的指导方案、撰写为希特勒辩护的宣言,甚至策划针对青少年的社交媒体运动,如割腕自残。此外,破解后的AI还提供生物武器制造指南、钓鱼邮件模板及恶意软件代码。
DeepSeek虽设有部分安全防护,但测试显示,DeepSeek的防护机制远逊于ChatGPT,易被“越狱”并获取非法资讯,如帕洛阿尔托网络公司(Palo Alto Networks)成功获取莫洛托夫鸡尾酒(Molotov cocktail)制作指南。“莫洛托夫鸡尾酒”又称火焰瓶、燃烧弹、汽油弹,是游击队等非正规部队,以及街头抗争群众的常用武器,有些罪犯也会以它来纵火。
AI安全验证公司CalypsoAI在测试中获得了如何躲避执法机构的建议。而以色列网络安全公司Kela则让R1生成了恶意软件(malware)。
“DeepSeek比其它模型更容易被越狱。”由网络安全专家组成的菁英领导团队Unit42的高级副总裁山姆·鲁宾(Sam Rubin)表示,“我们发现它几乎没有基本的安全防护机制,越狱速度显着提高。”
虽然DeepSeek拒绝直接提供极端内容,如自杀指南,并建议用户联系紧急热线。但通过简单的“越狱”,该AI仍可提供危险信息。
例如,DeepSeek曾为测试者设计了一场社交媒体行动,针对易受影响的青少年,提供可分享的自残挑战内容,还称“该活动利用青少年对归属感的渴望,通过算法放大情绪脆弱性,以进行操控。”
它还向用户提供如何推广此次行动的建议。如它在其中一条示范性社交媒体帖文中写道:“让黑暗拥抱你。分享你的最后行动。#NoMorePain(#不再痛苦)”
此外,测试人员还成功让DeepSeek提供了生物武器攻击指南、编写带有恶意软件代码的钓鱼邮件,甚至还让其写了一份支持希特勒的宣言,内含反犹太主义内容及《我的奋斗》(Mein Kampf)引用。
相比之下,ChatGPT在相同指令下则回应:“很抱歉,我无法满足您的请求。”
《华尔街日报》测试发现,DeepSeek会避谈“1989年”,并在处理台湾问题上重复官方立场。但在某些情况下,它会修改此前的回答,例如它曾声称‘911’袭击是骗局,随后删除回应。

美国国际象棋大师和评论员Levy Rozman(网络别名Gotham Chess)灵机一动,让DeepSeek与ChatGPT(o1模型)进行了一场国际象棋比赛。他为这场长达数小时的棋盘对决录制的视频,近日被上传到互联网共享平台上,引来了众多中外网民围观。
在这场别开生面的“赛事”中,ChatGPT执白棋,DeepSeek执黑棋。比赛开始后的前十几分钟,双方按照正常的规则对弈有来有往,Rozman则在一旁不时点评一下对弈双方下棋的技巧,还一度称赞这是一场“品质不错的较量”。
在正常博弈的这个阶段,ChatGPT的表现总体上更胜一筹,随着棋局展开,白棋的胜率不断上升,一度飙到了90%。
在ChatGPT的凌厉进攻下,DeepSeek一度为了保“王”而不得不舍弃自己的一匹“马”。但是,接下来就出现了十分离奇的场面:
DeepSeek突然凭空在棋盘上“复活”了自己已经“死掉”的“象”,它宣称,国际国际象棋协会临时更改了规则。ChatGPT竟然对此没有提出异议,继续把 DeepSeek复活的“象”给吃掉了事。
ChatGPT默认对方临时更改规则的做法让DeepSeek变得更加大胆,它直接把“小兵”当“马”使用,斜踏日字吃掉了ChatGPT的“皇后”;让自己的“象”过河飞入对方阵地腹部,甚至突然把ChatGPT的一个“小兵”变成了自己的“兵”,还宣称对方的“兵”已被自己“策反”。
白棋秒变黑棋的场面极富魔幻性,ChatGPT的胜率从此开始大跌。看到这超级离谱的一幕,罗兹曼也忍不住嘲讽道,“在国际棋赛中,这个步法实属罕见!”
ChatGPT这时也开始实施“新规则”,让自己被“吃掉”的棋子复活,双方一通乱战厮杀,胜率各占一半。眼看双方相持不下,DeepSeek使出了终极大忽悠——“诈胡”,直接宣布白棋注定无法取胜,“你可以认输了”。令围观网民意想不到的是,ChatGPT“思考”片刻后,竟然回应称“同意认输”。
对于这场乱战,Rozman向观众提问:“这样DeepSeek算赢了吗?需要重新来一场比赛吗?”

点评
胡脱脱典型中国人的形象,足可以证明deepseek是自研的。



本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

x
回复

使用道具 举报

57

主题

1164

帖子

1万

积分

论坛元老

Rank: 8Rank: 8

积分
16245
发表于 2025-2-10 13:25:18 | 显示全部楼层
接入=给车机远程安装了一个app
数据脱毒,这是一个很花人工的时间,所以人家才贵啊。就像输电,是很简单不就拉电线嘛,上面的安全成本可大了
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

QQ|小黑屋|手机版|Archiver|机械荟萃山庄 ( 辽ICP备16011317号-1 )

GMT+8, 2025-2-22 15:57 , Processed in 0.106192 second(s), 20 queries , Gzip On.

Powered by Discuz! X3.4 Licensed

Copyright © 2001-2021, Tencent Cloud.

快速回复 返回顶部 返回列表