google AI轻松生成各种虚假卫星影像

寂静回声

据BBC月31日报导，谷歌日前在其Google Earth平台推出了一项AI新功能，让用户只需点击按钮，便能利用人工智能图像生成器Nano Banana2，在真实的卫星、航拍或三维图像基础上，生成虚构场景。
仅一日后，谷歌周五在社交媒体平台X上发表声明，宣布在“实施更强有力的防护措施之前”撤回这项功能。
谷歌表示，公司注意到“地理空间专业人士一直在利用这项功能完成各种有益用途”，但同时也发现“有人分享了AI生成图像的截图，而这些内容可能违反了我们的政策”。

开源研究人员Henk van Ess通过短信向美国全国公共广播电台（NPR）表示，他曾尝试输入墨西哥边境难民潮、伊朗核电站事故、阿姆斯特丹（Amsterdam）空难，以及加沙一所遭炸弹炸出弹坑的医院等提示词来生成AI图片，期间“没有任何虚假场景被拒绝生成”。
NPR记者也顺利生成了伊朗哈尔克岛（Kharg Island）起火，以及美国国会大厦遭洪水淹没的虚构画面，两起事件实际上均未发生。
BBC旗下BBC Verify就此进行测试时，同样成功生成了埃菲尔铁塔倒塌、巨大天坑吞没吉萨大金字塔，以及俄罗斯坦克出现在乌克兰首都等虚假图像。
新加坡亚洲新闻台（CNA）的测试也显示，该功能能轻易生成樟宜机场（Changi Airport）受损、滨海湾花园（Gardens by the Bay）起火等从未发生的场景，而且系统未作任何限制或拒绝。

《华盛顿邮报》（The Washington Post）的视觉取证调查员Evan Hill在X平台就此质疑，该功能是否经过内部红队测试，并指出其可以被滥用于散布虚假信息，而且“几乎不受任何约束”。
网络调查组织Bellingcat的高级研究员Jake Godin也指出，过去因为卫星图像难以被伪造，一直是核实突发事件相对可靠的工具。
他举例说，此前美伊冲突期间，网络就曾流传巴林一处美军基地遭破坏的虚假卫星图像，事后真实影像证实该基地确实受损，但情况与假图像不同。
他担心，一键生成功能将加快虚假图像的扩散速度，而“虚假信息传播的速度和范围，总是超过任何更正”。

新加坡拉惹勒南国际研究院（S. Rajaratnam School of International Studies）卓越国家安全研究中心主任洪正君指出，过去制作逼真假卫星图像需要一定的技术与资源，如今几乎任何人都能一键生成足以引发恐慌或误导公众的图像。
他还提醒说，图像一旦流传至WhatsApp、Telegram或微信等聊天群组，鲜少有人会主动查证其真伪。

谷歌表示，该公司会持续更新防护措施。目前所有AI生成的图像均已加注SynthID数位水印，并可被Gemini等谷歌工具识别为AI生成内容，公司也会拦截涉及有害主题的图像生成请求。

不过多名受访专家对此仍未感到安心，认为如不采取措施，公众对卫星图像乃至Google Earth本身的长期信任可能会被削弱。