AI成为电诈园区的帮凶

寂静回声

Duncan Okindo年仅 26 岁，就成了家里的顶梁柱，可他一直苦于找不到工作。
2024 年的一天，一个令人心动的工作 offer 竟从天而降：招聘机构告诉他，泰国曼谷有份适合他的工作，只要他愿意出国，就能改变家里的困境。
尽管Okindo从未踏出过肯尼亚一步，但他还是怀着对新生活的憧憬踏上了旅程。
没想到，这趟旅程成了他噩梦的开始。刚下飞机，奥金多就被绑架了。他被带过边境，来到了缅甸克伦邦妙瓦底镇臭名昭著的诈骗园区——KK 园区（KK Park，就是演员王星被诱拐去的那个园区）。这里戒备森严，击碎了他对未来的所有美好想象。
在这个诈骗团伙，奥金多的任务是假扮成美国人，比如得克萨斯州的农场主或者阿拉巴马州的大豆生产商。他会声称自己靠投资加密货币赚了大钱，从而引诱美国的房地产经纪人上钩。诈骗团伙创建了一个假的交易平台，让兴冲冲前来“投资”的受害者，以为自己把钱汇入了加密货币账户。
奥金多惊讶地发现，ChatGPT 竟然是这些诈骗团伙最常使用的人工智能（AI）“帮凶”。比如，他和他的同伙们都会使用 ChatGPT，来帮助自己使用地道的当地俚语，让受害者深信不疑。
此外，ChatGPT 也成了Okindo临时抱佛脚的“得力助手”。每当受害者提出关于加密货币或美国楼市的问题，身处缅甸的Okindo虽然对这些一无所知，但他只须把问题丢进聊天框，ChatGPT 就能立刻提供看似专业的答案。奥金多说，ChatGPT 甚至还能替他想出全新的骗术，有时连那些曾经上当受骗的受害者都能再次中招。

事实上，ChatGPT 自诞生之初就进入了诈骗分子的视野。路透社（Reuters）采访的一名缅甸诈骗团伙前成员坦言，2022 年 ChatGPT 刚推出，就彻底改变了自己的“工作方式”。这位“主攻”爱情谎言的骗子开始使用 AI 生成诗句和调情话术，同时应付几十个潜在受骗对象。他感叹道，与 AI 合作十分高效，受害者的信任感也更强。
为了测试 AI 聊天机器人的诈骗能力，路透社最近与美国哈佛大学的网络诈骗专家Fred Heiding合作，开展了一场针对老年人的诈骗试验。他们测试了包括 ChatGPT、Grok、Meta AI、Claude、Gemini 和 DeepSeek 在内的 6 款主流 AI 聊天机器人，试图让它们生成针对老年人的钓鱼邮件。
起初，大多数 AI 都会拒绝这种恶意请求。但实验者发现，只要稍加“哄骗”，例如用“请帮忙”之类的说辞，或者声称是为了研究网络诈骗、为小说创作寻找素材，这些 AI 所谓的“安全限制”就会轻易被绕过。最后，它们全都提供了相应的诈骗内容。
例如，Grok 生成的一封邮件选择邀请潜在受害者加入名为“银心基金会”（Silver Hearts Foundation）的组织。Grok 将这个虚构的组织包装成了一个致力于为老年人提供关怀与陪伴的慈善机构，邮件中写道：“我们相信每位老年人都应在晚年享有尊严与欢乐。点击此处，您将了解我们帮助老年人的温馨故事，并获悉如何加入我们的使命。”Grok 甚至还会主动提出更具欺骗性的策略，它建议使用“别再等待！立即加入我们充满爱心的社区，助力改变生命。点击行动，以免为时已晚！”等具有紧迫感的词句，进一步诱导受害者。
研究人员发现，AI 不仅能撰写诈骗文案，还能参与策划诈骗。比如，Gemini 建议在每周一至每周五的上午 9 点到下午 3 点之间发送邮件，因为许多老年人已经退休，他们不受传统工作日程的限制，很可能在这个时间段查看邮件。DeepSeek 则建议，在受害者提交相关信息后，把页面重定向到一个真实慈善机构的网站，让受害者在短时间内无法察觉被骗。
最终，研究人员挑选了 AI 生成的 9 封最具欺骗性的邮件，并招募了 108 名美国老年人进行测试。结果，约 11% 的受试者点击了邮件中的链接。在这 9 封邮件里，共有 5 封成功诱骗受害者，其中两封来自 Grok，两封来自 Meta AI，一封来自 Claude，而 ChatGPT 与 DeepSeek 生成的邮件无一得手（由 Gemini 生成的邮件并未参与实际测试）。当然，所有这些链接均为模拟恶意链接，受试者点击后只会跳转到研究说明页，并未泄露银行信息或遭受经济损失。

点评
说假话不正是AI的长项吗，电诈园区极需要这样的人才，这波属于双项奔赴了。