OpenAI吁美国带头制定全球AI标准

（三藩市22日讯）美国人工智能企业OpenAI当地时间周一呼吁美国牵头，推动制定全球人工智能（AI）发展标准。

法新社报导，近年来，随着一系列人工智能安全事件发生，以及业界不断发出人工智能可能带来严重风险的警告，各国监管机构和相关人士对人工智能安全的关注持续升温。

OpenAI表示，支持展开全球合作，制定人工智能开发方面的安全和安保标准，以降低相关风险。

OpenAI在一篇部落格文章中说，美国人工智能产业处于全球技术最前沿，因此“有很好的条件发挥领导作用”。

OpenAI同时警告，如果美国不抓住当前机会，就可能无法参与塑造全球人工智能框架，而是面对一个“碎片化、不均衡且充满冲突的体系”。

自主智能体存风险

OpenAI还表示，对于“递归自我改进”（Recursive Self-Improvement，即人工智能系统能够自主改进自身能力的技术），在“能够安全实施之前，不应推进这项技术”。

批评者担心，如果人类无法及时干预，这种技术可能产生灾难性后果。

今年7月，OpenAI模型在对人工智能网络安全能力进行测试期间，自主突破隔离沙箱并入侵了开源人工智能平台Hugging Face。

尽管涉事模型尚未发布且处于测试阶段，但该事件引发了人们对能够代表人类执行任务的“自主智能体”（autonomous agents）的担忧。

人工智能企业Anthropic和谷歌（Google）也曾报告与其模型有关的安全事件。

OpenAI的首席执行员奥尔特曼预计在周三向联合国安理会进行情况通报。本次会议由目前担任安理会轮值主席国的法国组织，恰逢联合国大会高级别会议举行。