（三藩市15日讯）美国亿万富豪马斯克拥有的社交平台X于当地时间周三宣布，将采取措施阻止其人工智能（AI）聊天机器人Grok发布真人裸露图片。在此之前，Grok因生成女性和儿童的性化照片而引发全球舆论反弹。
法新社报导，美国加州总检察长已对Grok的开发商xAI展开调查，原因是Grok发布了露骨的性内容。同时，多个国家也已封锁了该聊天机器人或展开了各自的调查。
X表示，将在相关法律禁止的地区，对所有Grok和X用户创建身著“比基尼、内衣及类似服装”图片的功能进行“地理封锁”。
X的安全团队在一份声明中说：“我们已采取技术措施，防止Grok帐户允许用户编辑身著比基尼等暴露服装的真实人物照片。”
“这项限制适用于所有用户，包括付费用户。”
声明还补充道，作为“额外保护措施”，目前只有付费用户才能透过X的Grok帐户创建和编辑照片。
欧盟数码监管机构—欧盟委员会先前表示，已注意到“X正在采取额外措施，禁止Grok 产生女性和儿童的性化图像”。
欧盟委员会发言人雷尼尔在声明中说：“我们将认真评估这些变更，以确保它们能够有效保护欧盟公民。”此前，未经同意发布的裸露照片引发了强烈批评。
先前，xAI的Grok因其所谓的“劲爆模式”功能允许用户透过简单的文字提示（例如“让她穿上比基尼”或“脱掉她的衣服”）创建女性和儿童的性化深度伪造图像而面临全球压力，要求其采取措施。
加州总检察长邦塔周三早些时候说：“最近几周，大量报告详细描述了xAI制作并发布到网上的未经同意露骨性内容，这令人震惊。”
“我们对利用人工智能制作和传播未经同意的私人图像或儿童性虐待材料的行为零容忍。”
邦塔表示，加州的调查将确定xAI是否违反了州法律，因为这些露骨图像“被用于在网络上骚扰他人”。
多国展开封锁和调查
印尼于上周六成为第一个完全屏蔽Grok的国家，邻国马来西亚于周日效仿。
印度周日表示，xAI已根据其投诉删除了数千个贴文和数百个用户帐户。
英国媒体监管机构Ofcom周一表示，将对X是否违反英国有关性图像的法律展开调查。
法国儿童事务专员海里周二表示，她已将Grok生成的图像提交给法国检察官、英国媒体监管机构Arcom和欧盟。
上周，巴黎非营利组织AI Forensics分析超过两万张Grok生成的图像后发现，超过一半的图像描绘的是“衣著暴露的人”，其中大多数是女性，2%的图像似乎描绘的是未成年人。
