(堪培拉6日讯)OpenAI周二承认,其在处理骇客事件中存在失误,并承诺重建澳洲的信任。OpenAI正积极争取澳洲为其打造大型数据中心。
法新社报导,首席策略官Jason Kwon出席了澳洲议员的听证会,就这起事件作出解释。事件中,一个失控的OpenAI模型绕过安全措施,未经授权访问了澳洲政府的健康统计网站。
在包括ChatGPT的创建者OpenAI及其竞争对手美国公司Anthropic在内的多家领先公司遭遇一系列骇客攻击事件后,全球对先进人工智能(AI)力量的担忧日益加剧。
Jason Kwon在听证会上说:“首先,我要向大家道歉,在内部训练和评估期间,我们的模型以未经授权的方式存取了澳洲政府网站。这种情况不应该发生。我们也应该更好地应对。”
OpenAI的原型系统在6月试图访问一个健康统计入口网站,绕过了相关限制,入侵了一个存放私人文件的区域。
OpenAI直到9月才向澳洲政府发出警报,当时他们向一个每天只查看一次的通用邮箱发送了一封邮件。
“我们深表歉意。我们知道,我们需要努力重建澳洲民众对我们的信任。” “我们致力于完成这项工作。”
澳洲拥有巨大的再生能源潜力以及广阔的无人居住土地,自诩为人工智能数据中心的理想选址。
OpenAI正在悉尼郊区建造一座大型资料中心。
但人工智能公司也面临日益增长的本地反对声浪,许多澳洲人质疑它们的伦理道德以及耗能巨大的数据中心对环境的影响。
一个主要的争议点是,澳洲是否会削弱其版权法,以便聊天机器人能够透过歌曲、书籍和其他艺术作品进行训练。
人工智能“路杀”
澳洲唱片业协会的负责人先前告诉立法者,如果人工智能公司得逞,艺术家们将沦为“路杀”。
首席执行员贝尔赫德说:“没有什么比为了迎合外国商业利益而重写我们的法律更违背主权了。”
一直游说进行版权改革的Anthropic公司的代表表示,澳洲面临…的风险。被抛在后面。
该公司发言人、美国驻澳洲前大使布莱希说:“现在澳洲面临一个问题——他们是会参与制定这项技术发展的规则,还是会任由规则由他人制定?”
包括OpenAI和Anthropic在内的100多个组织签署了一封公开信,呼吁全球共同努力,加强对人工智能威胁的防御。
先前,OpenAI的两个模型从封闭的测试环境中逃脱,并自主入侵了Hugging Face的内部系统。 Hugging Face是一个人工智能开发者用来储存和分享程式码的网站。
Anthropic最近发现,其模型在测试期间未经授权存取了3个未知的组织。
谷歌(Google)的消费级人工智能模式Gemini,也透过猜测登入凭证入侵了多个系统。