美国Anthropic开发的人工智能助手Claude Mythos的标志,显示在一支智能手机的屏幕上。(图取自法新社)

(三藩市13日讯)美国人工智能(AI)公司Anthropic当地时间周五表示,为了遵守美国国家安全指令,已暂停了对两款强大的人工智能模型Fable 5和Mythos 5的访问权限。

法新社报导,就在Fable 5正式发布仅3天,Anthropic在一篇博客文章中表示,它收到了政府指令,出于国家安全考虑,禁止所有外国公民(甚至包括在Anthropic工作的员工)访问Fable 5和Mythos 5。

Anthropic称:“该指令的直接结果是,我们必须立即停止所有客户对Fable 5和Mythos 5的访问,以确保合规。”

据新闻网站Axios报导,该信函来自美国商务部长卢特尼克。

Anthropic表示,信中并未明确说明政府具体担忧的是什么。然而,根据该公司的理解,政府认为已发现一种能够绕过Fable 5模型或“越狱”的方法,可能被用来协助进行骇客攻击。

“越狱”是指绕过设备或软件系统原有的安全限制,以获取最高管理权限的行为。

周二发布的Fable 5是Mythos 5的“安全受限版”。Mythos 5是一款尖端人工智能模型,Anthropic公司此前一直未向公众发布,原因是担心在识别软件漏洞(即骇客可利用的代码漏洞)方面具有前所未有的能力。

Mythos 5这款未受限制的模型,此前仅向部分公司发布。

Anthropic表示,它已审查了此次外界猜测焦点中的“越狱”方法,以及该方法所暴露出的骇客攻击机会,但该公司认为,安全测试人员均未发现Fable 5存在任何“通用越狱”方法。

“我们不同意仅仅因为发现了一个潜在越狱漏洞,就应该召回一款已经部署给数亿用户的商业模型。”Anthropic说:“如果这一标准应用到整个行业,我们认为它基本上会使所有前沿模型提供商的新模型部署陷入停滞。”

Anthropic因拒绝允许其技术被用于大规模监控和自主武器,与美国政府处于法律对峙状态,导致五角大厦终止了与该公司的合同。

朱冠华

自由撰稿人

热门新闻

阅读全文

【新加坡大选】行动党蝉联执政 工人党政治版图扩大

阅读全文

烧烤摊违反行管令 老板顾客全被对付

阅读全文
档案照

哈萨克爆发不明肺炎 致死率远高于新冠病毒

阅读全文

CNN记者讲述北京防疫 女主播惊讶摇头