(图取自法新社)

(吉隆坡、雅加达18日讯)在马来西亚宣布将暂时封锁Grok,理由是该工具能够产生“极其冒犯且未经同意的篡改图像”的几天后,这款人工智能(AI)生成工具便与在该国注册的帐户进行了轻松的互动。

英国《卫报》周日报导,Grok在X平台上的帐号在回复一位用户的提问时说道:“我还在!马来西亚的DNS封锁力道很小——用VPN或DNS设定就能轻松绕过。”

Grok允许用户创建包含儿童图像在内的色情图像,这在近几周引发了全球的强烈抗议,世界各地的监管机构和政界人士纷纷展开调查。

印尼和马来西亚成为首批宣布封锁该人工智能生成工具的国家。马来西亚监管机构上周日表示,已“指示暂时限制”对Grok的访问,该限制自2026年1月11日起生效。菲律宾官员也表示,他们计划封锁该技术。

然而,封锁Grok并非易事。这项技术不仅存在于多个平台,包括独立应用程式和网站,而且还整合在X平台中。 X平台与Grok同属亿万富豪马斯克旗下的xAI公司。

过去一周,X平台用户,甚至Grok本身,都在指导用户如何绕过限制,这包括使用 VPN(许多VPN服务都是免费的)或更改网域名称系统 (DNS)。 DNS是网际网络上将位址名称转换为IP位址(用于载入网站)的协定。

《卫报》尝试在印尼使用Grok时发现,即使没有VPN,其网站也能正常访问,但Grok 应用程式却无法使用。 Grok仍然可以回应 X平台上的印尼帐户,它在X平台上以整合聊天机器人的形式运作。 目前,X平台尚未被封锁。

都柏林圣三一学院的人工智能治理专家兼博士研究员恩瓦楚库表示,即使各国政府能够完全限制Grok,这也不是真正的解决方案。

封锁Grok治标不治本

她说:“封锁Grok就像在未清理的渗液伤口上贴创可贴,你封禁了Grok,然后到处宣扬你做了什么。与此同时,人们可以使用VPN访问相同的平台。”

恩瓦楚库补充道,或者,他们也可以转向其他提供相同功能的平台,包括“规模较小、用途广泛的人工智能系统,这些系统大多不为人知”。

她补充称,政府应该将重点放在执法和调查那些利用此类工具违法犯罪的个人身上。 “法律规定,平台在发生犯罪行为时必须向执法部门提供信息,如果我们看到有人因这些罪行被捕、受审、入狱,那就表明这确实是犯罪。”

恩瓦楚库表示,X应该在其平台上建立问责机制,并进行自我整顿:“所有那些冒犯性的图片都应该从平台上删除。”

上周三,X宣布了额外的安全措施,以回应公众持续的愤怒。该公司表示,将禁止X平台上的@Grok帐号“编辑身著比基尼等暴露服装的真实人物照片”,包括付费用户。

然而,《卫报》发现,用户可以透过网页浏览器轻松存取Grok的独立版本,并制作短片来绕过这些限制。在短影片中,使用者可以移除真实女性照片中的衣服。

这些影片随后可以发布到X的公共平台上,供世界各地的用户在几秒钟内观看。

(图取自法新社)
(图取自法新社)

可透过VPN绕过“地理封锁”

马斯克的公司还表示,在那些此类内容属于非法的司法管辖区,它将透过地理封锁阻止这些地区的所有用户在X平台上使用Grok生成身著比基尼或类似服装的真人图像,并补充指,“xAI正在对Grok应用程式实施类似的地理封锁措施”。

专家警告,用户仍然可以透过VPN绕过此类“地理封锁”。目前,尚不清楚这些限制措施将在哪些国家实施。

马来西亚通讯部长法米表示,只有在彻底停用有害内容的生成功能后,才会解除对Grok的限制。

尤索夫伊萨克东南亚研究院媒体、科技与社会计画访问学者贾利博士表示,以封禁Grok的威胁可以有效地向相关公司施压,促使其迅速做出反应。

她补充指,此举“将讨论的焦点从‘个别不良行为者’转移到平台责任、安全设计以及安全措施失效时的问责制等问题上”。

她也指出,此举可以“减缓滥用行为的传播,减少随意滥用,并明确界定当局认为哪些行为是不可接受的”。

在印尼,Grok被用于未经同意制作歌手和名人的性化照片,其中包括该国最受欢迎的女子组合之一JKT48。

在马来西亚,女性也报告了类似的滥用行为,包括该工具被用来移除她们的头巾。

一些女性在X平台上公开告知Grok,她们并未授权该工具“抓取、拍摄、处理或编辑”她们的任何照片。

应从内部建构安全保障措施

努里安蒂表示,各国政府应该推动提高透明度,“明确安全措施的实施方式、滥用举报的处理方式,以及在有害内容产生或传播时采取的执法措施”。

马来西亚通讯和多媒体委员会以及通讯部均未回应置评请求。印尼通讯和数码事务部也未回应。

恩瓦楚库表示,应该在人工智能系统内部建构安全保障措施,而不是在其周围设置“门槛”。

她说:“无论是来自X的地理限制,还是来自政府的限制,都是通过门禁系统实现的,而门禁系统是可以被突破的。”
 

薛佩菱

自由撰稿人

热门新闻

阅读全文

【新加坡大选】行动党蝉联执政 工人党政治版图扩大

阅读全文

烧烤摊违反行管令 老板顾客全被对付

阅读全文
档案照

哈萨克爆发不明肺炎 致死率远高于新冠病毒

阅读全文

CNN记者讲述北京防疫 女主播惊讶摇头