(华盛顿30日讯)美国总统特朗普当地时间周二表示,齐聚白宫讨论人工智能(AI)监管问题的科技高层签署了一项“具有道德约束力”的承诺,旨在为这项快速发展的技术建立充分的保障措施。
法新社报导,特朗普在会议结束后说道:“他们将进行自我监管。”这次会议汇集了人工智能领域的顶尖领导人,包括英伟达(Nvidia)的黄仁勋、OpenAI的布罗克曼和Anthropic的阿莫代伊。
特朗普表示,这些科技巨头签署了一项协议,该协议将他们自我监管的承诺以书面形式记录下来,成为一项具有道德约束力的协议,但不具有法律强制力。
但最终的文件,即所谓的“白宫协议”,并未完全排除“在未来适当的时候将这些步骤编纂成法律或法规”的可能性。
在椭圆形办公室外,特朗普在众多科技巨头的簇拥下向记者发表讲话时,也证实他将正式把这项技术更名为“超级智能”,而不是“人工智能”,因为“它并非人工制造”。
Meta的老板朱克伯格表示,该协议旨在向客户保证人工智能技术“能够按照我们预期的方式运作”。
他表示,这项承诺包括“健全的内部控制”和多层审计,从内部风险评估到外部审计,再到公司董事会的监督。
朱克伯格形容,这份协议为业界标准的起点。
马斯克表示,这些高阶主管实际上同意“互相批改作业,这比人们自己批改作业要好得多,原因显而易见”。
这次午餐会的出席者还包括亚马逊(Amazon)的贝佐斯、微软(Microsoft)的纳德拉和谷歌(Google)的皮查伊。
31位宾客中,有两位是女性。她们分别特朗普的白宫幕僚长威尔斯和AMD首席执行员苏姿丰。
这场聚会正值华盛顿对人工智能的态度日趋紧张之际。选民越来越向立法者施压,要求他们限制或放缓人工智能的发展,因为人们担心人工智能会取代工人并颠覆社会。
OpenAI的自主系统多次突破安全限制,加剧了这些担忧。其中最早发生的是7月Hugging Face(一个广泛使用的人工智能模型共享平台)的漏洞事件。
OpenAI周一宣布,对ChatGPT进行内部测试,发现其最新模型Astra 6.1不符合安全标准后,决定取消发布。
在黄仁勋和特朗普先前的人工智能主管萨克斯的建议下,特朗普一直敦促不受限制地发展人工智能,以超越中国,并推动美国经济日益依赖人工智能驱动的成长。
数据中心问题,即这项技术所需的庞大计算设施,已成为两党中期选举的焦点。越来越多的社区担忧不断上涨的电费以及水资源和土地资源的压力。
特朗普驳斥了数据中心的反对者,并在会后坚称,人工智能公司将“非常慷慨地”对待那些向其敞开大门的社区。
他说:“他们会帮助改善学校,他们会帮助教师。”
“仍在讨论中”
大型人工智能公司,尤其是Anthropic和OpenAI,在开发和部署这项尖端技术的同时,也公开警告,日益强大的系统发展不受控制。
此前,这两家公司的一名前员工公开警告,该行业的发展速度已经超过了安全审查的允许范围,这加剧了人们的担忧。
根据《金融时报》周二报导,Anthropic在其备受瞩目的首次公开募股招股说明书中警告投资者,这些技术可能对人类构成生存威胁。
Anthropic公司计划最早于11月进行IPO。
特朗普曾多次称这些关于人工智能生存风险的警告言过其实,白宫也曾就人工智能安全问题与Anthropic公司发生激烈冲突。
阿莫代伊在会后说:“正如总统所说,谁赢得了人工智能,谁就是赢家。我认为这非常重要,但我认为这项技术确实存在非常现实的风险,而我们如何应对这些风险的机制仍在讨论之中。”