(华盛顿9日讯)一家伊朗新闻媒体发布的卫星图像看起来很逼真:卡塔尔境内一处被摧毁的美军基地;但这却是人工智能(AI)生成的伪造影像,凸显了战时科技驱动的假讯息传播威胁日益加剧。
法新社报导,生成式人工智能的兴起极大地增强了国家行为体和宣传人员在重大冲突期间伪造逼真卫星图像的能力,研究人员警告,这一趋势会带来现实世界的安全隐患。
在美以对伊战争愈演愈烈之际,伊朗官方英文日报《德黑兰时报》(Tehran Times)在社交平台X发布了一张“前后对比”图片,声称图片显示位于卡塔尔某基地的美军雷达设备“被彻底摧毁”。
研究人员表示,这其实是去年谷歌地球(Google Earth)拍摄的一张美军巴林基地照片的人工智能篡改版本。
其中的细微视觉破绽包括:在原图和篡改后的图片中,都有一排汽车停放在完全相同的位置。
然而,这张篡改后的图片在社群媒体上以多种语言传播,获得了数百万的浏览量,这表明在充斥著人工智能生成图像的平台上,用户越来越难以区分现实与虚构。
开源情报研究员阿弗里克指出,在中东战争等重大事件发生后,社群媒体上“篡改过的卫星图像数量有所增加”。
“这些被篡改的图像大多具有人工智能生成不完善的特征:角度怪异、细节模糊,以及与现实不符的虚假特征。”
“另一些图像似乎是人工篡改的,通常是在原本没有任何此类细节的卫星图像上叠加损坏或其他变化的标记。”
“战争迷雾”
资讯战分析师哈金指出另一张由人工智能生成的卫星图像,该图像声称显示以色列和美国的战机袭击了伊朗地面上涂绘的飞机轮廓,而德黑兰方面似乎将真正的飞机转移到了其他地方。
蛛丝马迹包括嵌入在伪造图像中的乱码座标,该图像已在包括Instagram、Threads和X在内的多个网站上传播。
法新社检测到了SynthID,这是一种用于识别使用谷歌人工智能生成的图像的隐形浮水印。
伪造的卫星影像出现之际,社群媒体上涌现大量冒充开源情报(OSINT)的帐号,这些帐号似乎在破坏可信的数码调查人员的工作。
哈金说:“由于战争迷雾,很难确定敌方打击的成效。开源情报的出现提供了一种解决方案,利用公开的卫星图像来绕过伊朗等国的审查制度。”
“但现在,它正被虚假讯息传播者利用。”
俄乌冲突和去年印巴四日战争之后,也出现了利用人工智能创建或编辑的假卫星图像的报导。
“批判意识”
阿弗里克说:“被篡改的卫星影像,与其他形式的假讯息一样,如果人们在不核实其真实性的情况下就根据所接触到的资讯采取行动,就会对现实世界产生影响。”
“这会产生一系列影响,从影响公众对重大议题(例如一个国家是否应该卷入冲突)的看法,到冲击金融市场。”
在人工智能时代,即时收集的真实高解析度卫星影像,可以为决策者提供评估安全威胁和揭穿未经证实来源虚假资讯的关键线索。
在最近尼日尔尼亚美机场遭受武装分子攻击期间,卫星情报公司Vantor表示,他们侦测到网络上流传的影像,声称显示主要民用航厦起火。
Vantor公司的马克斯特德告诉法新社,该公司自身的卫星图像帮助证实了这些照片是伪造的,几乎可以肯定是由人工智能产生的。
华盛顿大学的Bo Zhao告诉法新社:“当卫星图像作为战争背景下的视觉证据出现时,它很容易影响人们对事件的解释。”
Bo Zhao表示,随著人工智能生成的图像越来越逼真,“公众谨慎对待此类视觉内容并保持批判性思维至关重要”。