（华盛顿3日讯）亿万富豪马斯克旗下的Grok当地时间周五表示，在用户声称生成式人工智能（AI）聊天机器人Grok将儿童或女性的照片转化为色情图像后，该公司正紧急修复相关漏洞。
法新社报导，Grok在社交媒体X发文称：“我们已确认防护机制存在疏失，并正紧急修复中。儿童性虐待内容是违法且被严禁的。”
相关滥用投诉是在12月下旬Grok推出“编辑图像”按钮后，开始出现在X平台上。
投诉内容显示，该按钮允许用户修改平台上的任何图像，而部分用户竟选择将照片中女性和儿童的衣服部分或全部移除。
Grok的开发商xAI回复法新社的询问时，仅给出了一段简短且自动化的回应：“主流媒体撒谎。”
然而，Grok聊天机器人确实回复了一名就此事提出询问的X用户。该用户表示，一家美国公司如果明知故犯地协助、或未能阻止儿童色情内容的产出与传播，可能面临刑事起诉。
印度媒体周五报导，印度官员要求X尽快提供相关措施细节，说明该公司如何移除由Grok生成、且未经当事人同意的“淫秽、裸露、下流及带有性暗示的内容”。
与此同时，法国巴黎检察官办公室扩大了对X的调查，新增了Grok被用于生成及传播儿童色情内容的控诉。
针对X的初步调查始于去年7月，当时有报导指出，该社交媒体的演算法遭到操纵以进行外国干预。
近几个月来，Grok因产生多项争议性言论而受到批评，这些言论涉及加沙战争、印巴冲突、反犹太主义言论和散布有关澳洲邦迪海滩枪击事件的信息。
