(华盛顿1日讯)美国科技界巨头谷歌公司周四推出新功能,让谷歌地球(Google Earth)用户在卫星图像生成人工智能(AI)视觉化内容。但在遭到研究人员和开源情报专家质疑可能引发虚假信息传播提出强烈抗议后,谷歌周五撤回了该功能。
谷歌发言人在向法新社发表的声明中说:“我们看到地理空间领域的专业人士利用这一功能实现了多种实用目的,但也发现有人分享了看似违反我们政策的生成图像截图。因此,我们决定暂时下线在谷歌地球中的该功能,同时著手建立更严格的防护机制。”
声明补充:“我们深知,人们对谷歌地球给予了独特的信赖,视它为获取可靠世界视图的途径。”
新推出的“创建图像”(create image)工具将谷歌的Nano Banana 2图像生成技术整合到谷歌地球中,允许用户放大特定地点,并利用该程式的卫星、航空及3D测绘数据,在数秒内生成图像。
谷歌曾将它描述为一种“视觉化历史、制定房地产规划及实现更多功能”的途径。
但虚假资讯研究人员警告,这可能使恶意行为者滥用谷歌地球——一个用于事实查核与验证的关键资源——来制作逼真的地理空间伪造内容。
削弱公众对卫星影像信任
数码调查专家范埃斯在线上发布平台Substack发表一篇广为流传的文章中写道:“谷歌花了20年时间,建立起了一个供全世界作为参照标准的权威体系,如今它却增加了一个会胡编乱造的按钮。”
美国企业研究所专门从事卫星图像分析的研究员阿弗里克告诉法新社,谷歌地球的这个新功能会让“生成具有说服力的虚假卫星图像变得更加容易,而这些图像可能在网上迅速传播并误导公众”。
他说,这类伪造内容“削弱了公众对卫星影像的信任,并增加了记者和研究人员的工作难度”。
随著批评声浪高涨,谷歌在社交媒体X表示,利用该功能生成的图像包含SynthID数码浮水印,一种嵌入在由该公司人工智能工具生成的媒体内容中的隐形标记。
该公司写道,“我们非常重视虚假资讯问题”,并附上了一个人工智能政策的链接。该政策要求用户避免从事“传播虚假资讯、进行不实陈述或具有误导性的活动”。
法新社周五对该功能进行的测试,成功产生了可能引发严重后果的卫星图像,其中包括法国首都巴黎发生的爆炸、伊朗境内的核设施、俄罗斯境内的炸弹坑以及恐怖组织“伊斯兰国”(IS)在叙利亚境内的训练场。
该工具还根据提示生成了其他虚假场景的图像,包括孟加拉国各地的洪灾、在美墨边境扎营的移民队伍,以及佐治亚州一处存放著多辆货车的可疑仓库。佐治亚州是美国总统特朗普曾毫无根据地指控存在大规模选举舞弊的几个州之一。
谷歌暂停使用该新功能后,谷歌地球中不再显示“创建图像”按钮。
AI生成图曾引发市场震荡
类似的假讯息此前曾产生现实影响。2023年,一张描绘五角大厦发生爆炸的人工智能生成图像曾短暂引发市场震荡。
美国与伊朗战争爆发初期,一张经人工智能修改、显示美军基地被摧毁的卫星图像,在各大平台上被浏览了数百万次。
在呼吁谷歌撤回该决定的团体中,包括总部位于英国首都伦敦市的“信息韧性中心”。该中心的执行总监伯利告诉法新社,这一功能是“不负责任的”。
他说:“对卫星图像的信任历经数十年才建立起来,却可能在一夜之间遭受不可挽回的破坏。”
致力于核实全球冲突地区影像资料的志愿驱动开源情报项目GeoConfirmed,也曾敦促谷歌重新考虑推出该功能的决定。
该组织在X写道:“我们已经观察到有人利用谷歌地球新的网页工具来标示军事阵地、将建筑物重新标记为学校,并尝试操纵资讯环境。”
“该工具的主要且或许也是唯一的实际用途,似乎在于制造并传播错误和虚假的讯息。”