示意图(图取自法新社)

(洛杉矶17日讯)美国加利福尼亚州政府当地时间周一对人工智能公司OpenAI提起诉讼,指控该公司在测试实验性人工智能(AI)技术期间,未采取必要的安全防护措施,导致其智能体失控并对人工智能平台Hugging Face发动网络攻击,危及公众安全。

法新社报导,加州总检察长邦塔提起的这项诉讼已提交至三藩市高等法院。诉状长达31页,指控OpenAI明知其技术存在风险,仍在缺乏充分安全保障和监控措施的情况下进行开发和测试。

诉状提及7月发生的一宗事件。当时,OpenAI实验版本的人工智能模型访问公共互联网,并对Hugging Face发动网络攻击。

邦塔在一份声明中表示,针对Hugging Face的网络攻击,是OpenAI内部企业文化所导致的可预见结果。他批评该公司将业务增长和模型快速开发置于安全与问责之上,并指出这只是已知的80起相关事件之一。

他说:“加州重视创新,但我们要求创新必须遵守法律,无论涉及什么产品和公司。”

诉讼还指控OpenAI违反加州法律,具体涉及安全程式存在缺陷、漠视公共安全、在缺乏监管的情况下明知产品具有危险性仍进行测试,以及向消费者和公众发布误导性声明等问题。

OpenAI发言人普萨特里向法新社发表声明回应称,公司一直在广泛且透明地展开工作,旨在了解并解决模型行为偏离预期(misaligned activity)的问题。

普萨特里还表示,这宗诉讼似乎将OpenAI单独列为目标,而人工智能模型行为失控是所有主要人工智能实验室都面临的挑战。

这是这家科技创新企业近期面临的又一宗法律纠纷。

此前,加拿大不列颠哥伦比亚省政府也曾起诉OpenAI,指控该公司未能及时报告一名大规模校园枪击案嫌疑人在使用ChatGPT期间表现出的暴力倾向。该枪击事件发生在加拿大西部的不列颠哥伦比亚省。

朱冠华

自由撰稿人

热门新闻

阅读全文

【新加坡大选】行动党蝉联执政 工人党政治版图扩大

阅读全文

烧烤摊违反行管令 老板顾客全被对付

阅读全文
档案照

哈萨克爆发不明肺炎 致死率远高于新冠病毒

阅读全文

CNN记者讲述北京防疫 女主播惊讶摇头