(巴黎21日讯)人工智能(AI)深度伪造视频、被当成真实战斗的电玩游戏画面,以及聊天机器人生成的虚假内容——这类科技驱动的错误资讯正在扭曲伊朗与以色列冲突,在社交媒体上助长了一场叙事之战。
法新社报导,随著以色列对伊朗核设施和军事高层发动攻击的同时,信息战也在展开,凸显出在人工智能工具快速进步、真实与虚假界线日益模糊的时代,数位危机的严重性。
专家表示,战争期间错误资讯的激增,暴露出对更强大检测工具的迫切需求,因为主要科技平台缩减了内容审核和对人工事实查核员的依赖,大大削弱了保障措施。
伊朗上周对以色列发射导弹后,社交平台上流传著人工智能生成的虚假视频,声称展示了特拉维夫和本古里安机场遭到破坏的场景。
这些视频在社交平台如面子书、Instagram和X上,被广泛传播。
法新社的事实查核员利用反向图像搜寻发现,这些视频最初来自一个专门发布人工智能生成内容的TikTok帐号发布的。
美国奥斯汀的BitMindAI创办人宫内健仁(音译,Ken Jon Miyachi)对法新社表示:“人工智能生成的虚假信息激增,尤其是与伊朗和以色列冲突相关的信息。”
“这些工具被用来操纵公众认知,以前所未有的规模和复杂性放大分裂性或误导性叙事。”
影像逼真难分真伪
美国专注于检测人工智能深伪等操控媒体的公司GetReal Security,也发现了一波与伊朗—以色列冲突相关的伪造视频。
该公司将这些视觉效果震撼的视频——展示战争摧毁以色列飞机和建筑的世界末日场景,以及运载伊朗导弹的拖车,与谷歌(Google)以超现实主义视觉效果著称的 Veo 3人工智能生成器关联起来。
伊朗《德黑兰时报》发布的一段声称“伊朗导弹击中特拉维夫瞬间”的在线视频底部,可以看到Veo水印。
GetReal Security联合创办人、加州大学伯克利分校教授法里德说:“生成式人工智能工具的照片写实度不断提高,它被滥用来传播虚假信息和制造混乱也就不足为奇了。”
法里德提供了一个识别这类深伪视频的小技巧:Veo 3生成的视频通常长度为8秒,或由多个时长相近的片段组合而成。
他说:“这8秒长度当然不能证明视频一定是伪造的,但足以让人暂停一下,在转发前进行事实查核。”
需更好工具分别假信息
这些虚假资讯并不只限于社交媒体。
监督假新闻的组织NewsGuard发现有51个网站散播了10多种虚假说法,从声称特拉维夫遭大规模破坏的人工智能生成照片,到捏造伊朗俘虏以色列飞行员的报导。
NewsGuard指出,散布这些虚假叙事的来源包括伊朗军方关联的Telegram频道,和隶属于伊朗广播电视台(IRIB)的国家媒体,该机构已被美国财政部制裁。
NewsGuard研究员萨德吉表示:“我们看到虚假说法泛滥,普通伊朗人似乎是主要受众目标。”
伊朗方面则自称也是科技操弄的受害者,当地媒体报导,以色列曾短暂骇入国家电视台,播出女性抗议的画面并呼吁民众走上街头抗议。
加剧信息混乱的还有取自战争主题电玩的网上视频。
法新社事实查核员识别出一段在X平台上发布的片段,该片段虚假声称展示伊朗击落以色列战机,其画面与军事模拟游戏《武装行动3》(Arma 3)极为相似。
研究人员表示,用户越来越依赖即时事实查核的聊天机器人(如xAI的Grok),但这类工具有时误修改过的图像识别为真实。
宫内健仁说:“这凸显了当今网络信息领域一个更广泛的危机:人们对数位内容的信任正在逐渐丧失。”
他称:“我们迫切需要更好的检测工具、媒体素养教育和平台问责制,以维护公共话语的完整性。”