(洛杉矶17日讯)美国加利福尼亚州政府当地时间周一对人工智能公司OpenAI提起诉讼,指控该公司在测试实验性人工智能(AI)技术期间,未采取必要的安全防护措施,导致其智能体失控并对人工智能平台Hugging Face发动网络攻击,危及公众安全。
法新社报导,加州总检察长邦塔提起的这项诉讼已提交至三藩市高等法院。诉状长达31页,指控OpenAI明知其技术存在风险,仍在缺乏充分安全保障和监控措施的情况下进行开发和测试。
诉状提及7月发生的一宗事件。当时,OpenAI实验版本的人工智能模型访问公共互联网,并对Hugging Face发动网络攻击。
邦塔在一份声明中表示,针对Hugging Face的网络攻击,是OpenAI内部企业文化所导致的可预见结果。他批评该公司将业务增长和模型快速开发置于安全与问责之上,并指出这只是已知的80起相关事件之一。
他说:“加州重视创新,但我们要求创新必须遵守法律,无论涉及什么产品和公司。”
诉讼还指控OpenAI违反加州法律,具体涉及安全程式存在缺陷、漠视公共安全、在缺乏监管的情况下明知产品具有危险性仍进行测试,以及向消费者和公众发布误导性声明等问题。
OpenAI发言人普萨特里向法新社发表声明回应称,公司一直在广泛且透明地展开工作,旨在了解并解决模型行为偏离预期(misaligned activity)的问题。
普萨特里还表示,这宗诉讼似乎将OpenAI单独列为目标,而人工智能模型行为失控是所有主要人工智能实验室都面临的挑战。
这是这家科技创新企业近期面临的又一宗法律纠纷。
此前,加拿大不列颠哥伦比亚省政府也曾起诉OpenAI,指控该公司未能及时报告一名大规模校园枪击案嫌疑人在使用ChatGPT期间表现出的暴力倾向。该枪击事件发生在加拿大西部的不列颠哥伦比亚省。