（华盛顿15日讯）在全球首富马斯克的X平台上流传的人工智能（AI）生成的视频，描绘了美军士兵被伊朗俘虏、以色列城市沦为废墟以及美国大使馆被烧毁的场景。尽管政府出台了旨在遏制战时虚假信息的政策，但逼真的深度伪造视频仍然大量涌现。
法新社报导，研究人员表示，中东战争引发了人工智能产生的大量视觉内容，其数量之多远超以往任何冲突，并常常使社群媒体用户难以区分真假。
为了在冲突期间保护“真实信息”，X上周宣布，如果创作者发布未经披露的人工智能生成的战争视频，将被暂停参与其收益分成计划90天。
X的产品负责人比尔在一篇贴文中警告，再次违规将导致永久封锁。
这项新政策对于一个马斯克于2022年10月完成对该网站440亿美元的收购以来，就因沦为虚假信息温床而饱受诟病的平台来说，无疑是一次显著的转变。
这项政策也赢得了美国国务院高级官员罗杰斯的赞扬，她称其是对X的“社区笔记”（一个众包验证系统）的“极佳补充”，该系统能够“减少不实内容的传播范围（从而降低其盈利能力）”。
不过，假讯息研究人员仍持怀疑态度。
“我监测的资讯流仍然充斥著大量关于战争的人工智能生成内容”，战略对话研究所的博德纳告诉法新社。
他说：“看来创作者们并没有停止发布关于这场冲突的误导性人工智能生成的图像和视频。”
博德纳指出，一个顶级“蓝V认证”X帐户（符合盈利条件）发布了一条帖子，分享了一段人工智能生成的视频，视频中伊朗对以色列发动了“核打击”。
这篇贴文获得的浏览量甚至超过了比尔打击人工智能内容的声明。
经济动机刺激虚假资讯滋生
法新社询问X自比尔宣布以来取消了多少个帐户的获利资格，X没有回应。
法新社的全球事实查核员网络——从巴西到印度——发现了一系列关于中东战争的人工智能虚假讯息，其中许多来自X的付费蓝V认证高级帐户。
这些假讯息包括：人工智能生成的视频，描绘了一名泪流满面的美国士兵在被炸毁的大使馆内；被俘的美军士兵跪在伊朗国旗旁；以及一支被摧毁的美国海军舰队。
大量人工智能产生的图像，其中混杂著来自中东的真实影像持续涌现，其速度远超专业事实查核人员的辟谣能力。
X的人工智能聊天机器人Grok似乎加剧了这个问题，它错误地告诉寻求事实查核的用户，许多来自战争的人工智能图像都是真实的。
研究人员还警告，X公司的模式——允许高级帐户根据互动量获得报酬——极大地刺激了兜售虚假或耸人听闻内容的经济动机。
一个高级帐户发布了一段迪拜哈利法塔被火焰吞噬的人工智能视频，无视了比尔要求其标注内容为人工智能生成的请求。
该帖子一直在线，浏览量超过200万次。
上个月，科技透明计划发布的一份报告称，X公司似乎从20多个属于伊朗政府官员和官方控制新闻机构的高级帐户中获利，这些帐户散布宣传讯息，可能违反了美国的制裁。报告称，X随后取消了部分用户的蓝色认证标记。
研究人员表示，即使X的取消获利政策严格执行，大量兜售人工智能内容的X用户仍无法参与收益分成计划。
这些用户仍需要透过“社群笔记”系统接受事实查核，但该系统的有效性一直备受研究人员质疑。
去年，美洲数码民主研究所的一项研究发现，X超过90%的“社群笔记”从未被发布，凸显了该系统的重大限制。
康乃尔科技学院安全、信任与保障倡议主任曼扎里斯说：“X的新政策原则上是针对战争假讯息的合理反制措施，也能降低传播假讯息者的诱因结构。”
他补充指，但魔鬼藏在细节里：人工智能的数码足迹（Metadata）极易被抹灭，而仰赖网民查证的社区笔记又有一搭没一搭。
他表示，X平台很难在“精准辨识”与“全面拦截”之间取得平衡。
