示意图(图取自网络)

(巴黎21日讯)人工智能(AI)深度伪造视频、被当成真实战斗的电玩游戏画面,以及聊天机器人生成的虚假内容——这类科技驱动的错误资讯正在扭曲伊朗与以色列冲突,在社交媒体上助长了一场叙事之战。

法新社报导,随著以色列对伊朗核设施和军事高层发动攻击的同时,信息战也在展开,凸显出在人工智能工具快速进步、真实与虚假界线日益模糊的时代,数位危机的严重性。

专家表示,战争期间错误资讯的激增,暴露出对更强大检测工具的迫切需求,因为主要科技平台缩减了内容审核和对人工事实查核员的依赖,大大削弱了保障措施。

伊朗上周对以色列发射导弹后,社交平台上流传著人工智能生成的虚假视频,声称展示了特拉维夫和本古里安机场遭到破坏的场景。

这些视频在社交平台如面子书、Instagram和X上,被广泛传播。

法新社的事实查核员利用反向图像搜寻发现,这些视频最初来自一个专门发布人工智能生成内容的TikTok帐号发布的。

美国奥斯汀的BitMindAI创办人宫内健仁(音译,Ken Jon Miyachi)对法新社表示:“人工智能生成的虚假信息激增,尤其是与伊朗和以色列冲突相关的信息。”

“这些工具被用来操纵公众认知,以前所未有的规模和复杂性放大分裂性或误导性叙事。”

影像逼真难分真伪

美国专注于检测人工智能深伪等操控媒体的公司GetReal Security,也发现了一波与伊朗—以色列冲突相关的伪造视频。

该公司将这些视觉效果震撼的视频——展示战争摧毁以色列飞机和建筑的世界末日场景,以及运载伊朗导弹的拖车,与谷歌(Google)以超现实主义视觉效果著称的 Veo 3人工智能生成器关联起来。

伊朗《德黑兰时报》发布的一段声称“伊朗导弹击中特拉维夫瞬间”的在线视频底部,可以看到Veo水印。

GetReal Security联合创办人、加州大学伯克利分校教授法里德说:“生成式人工智能工具的照片写实度不断提高,它被滥用来传播虚假信息和制造混乱也就不足为奇了。”

法里德提供了一个识别这类深伪视频的小技巧:Veo 3生成的视频通常长度为8秒,或由多个时长相近的片段组合而成。

他说:“这8秒长度当然不能证明视频一定是伪造的,但足以让人暂停一下,在转发前进行事实查核。”

需更好工具分别假信息

这些虚假资讯并不只限于社交媒体。

监督假新闻的组织NewsGuard发现有51个网站散播了10多种虚假说法,从声称特拉维夫遭大规模破坏的人工智能生成照片,到捏造伊朗俘虏以色列飞行员的报导。

NewsGuard指出,散布这些虚假叙事的来源包括伊朗军方关联的Telegram频道,和隶属于伊朗广播电视台(IRIB)的国家媒体,该机构已被美国财政部制裁。

NewsGuard研究员萨德吉表示:“我们看到虚假说法泛滥,普通伊朗人似乎是主要受众目标。”

伊朗方面则自称也是科技操弄的受害者,当地媒体报导,以色列曾短暂骇入国家电视台,播出女性抗议的画面并呼吁民众走上街头抗议。

加剧信息混乱的还有取自战争主题电玩的网上视频。

法新社事实查核员识别出一段在X平台上发布的片段,该片段虚假声称展示伊朗击落以色列战机,其画面与军事模拟游戏《武装行动3》(Arma 3)极为相似。

研究人员表示,用户越来越依赖即时事实查核的聊天机器人(如xAI的Grok),但这类工具有时误修改过的图像识别为真实。

宫内健仁说:“这凸显了当今网络信息领域一个更广泛的危机:人们对数位内容的信任正在逐渐丧失。”

他称:“我们迫切需要更好的检测工具、媒体素养教育和平台问责制,以维护公共话语的完整性。”

朱冠华

自由撰稿人

热门新闻

阅读全文

【新加坡大选】行动党蝉联执政 工人党政治版图扩大

阅读全文

烧烤摊违反行管令 老板顾客全被对付

阅读全文
档案照

哈萨克爆发不明肺炎 致死率远高于新冠病毒

阅读全文

CNN记者讲述北京防疫 女主播惊讶摇头