（纽约24日讯）主要人工智能（AI）公司的领导人当地时间周三在联合国安理会表示，这项技术需要高度警惕。Anthropic公司的联合创始人兼首席执行员阿莫迪承诺，在必要时将放慢速度，以确保新版本的安全。
法新社报导，OpenAI首席执行员奥尔特曼在纽约举行的安理会15个成员国紧急会议上说：“此刻需要格外谨慎。”
他警告，随著人工智能系统变得越来越强大和自主，它们的发展速度可能会超过机构，或者权力过于集中在少数人手中。
此前数周，全球媒体纷纷报导人工智能失控的风险以及要求放缓人工智能发展的呼声，而美国总统特朗普一直抵制这些呼吁。奥尔特曼是向安理会报告情况的众多产业领袖之一。
奥尔特曼在联合国最高机构会议上说：“产业不能因为收益庞大且意义重大就放慢脚步，从而承担过高的技术风险。”
他也敦促各国政府与业界携手合作，共同制定塑造这项技术未来的决策。
“在历史上，曾有国家彼此竞争，甚至并非总是友好相处，但面对强大的新技术，为了共同利益和集体福祉而走到一起，我们相信，现在正是这样的时刻。”
放慢脚步
在奥尔特曼之后发言的阿莫迪表示，该公司明白，随著人工智能模型变得越来越强大，“需要更加严格的安全标准”。
他表示，Anthropic的目标是提高其防止技术滥用的能力。
阿莫迪在影片中说道：“我们将根据需要放慢脚步，以确保我们发布的每项人工智能技术都真正安全。”
“如果管理不善，我甚至认为人工智能可能会威胁整个人类。”
其他发言者包括Hugging Face的德朗格，该公司最近遭到OpenAI自主软体的网络攻击。
这标志著一系列事件的开端，这些事件引发了人们对这项快速发展技术的担忧。
9月初，曾在OpenAI和Anthropic两家公司工作的研究员考克森决定离开人工智能产业，并指责这两家公司在开发能够自我改进的人工智能模型的竞赛中“拿我们的生命冒险”。
“中间道路”
这些高层发表上述言论之际，正值特朗普接待中国国家主席习近平，并主持一场将人工智能列为议程之一的峰会。
周三，奥尔特曼表示，他的公司将努力走一条“中间路”。
“我们不想落入盲目乐观的陷阱”，但他同时告诫人们不要陷入“末日论”。被誉为人工智能创始人之一的加拿大电脑科学家本吉奥在安理会表示，“越来越多的人对人工智能的最新进展感到担忧，这是很正常的”。
“我们必须将这种担忧转化为富有成效的行动。”
Hugging Face公司的德朗格指出，尽管他的公司曾是人工智能的攻击目标，但也利用这项技术抵御了攻击。 “世界比以往任何时候都更需要开源人工智能来保护自身。”
奥尔特曼、阿莫迪和其他几位人工智能领域的领导者一直在呼吁对这项技术进行全球监管。
OpenAI敦促美国主导制定人工智能标准的全球行动，并指出美国在人工智能领域处于技术前沿。
英国首相伯纳姆周二表示，英国将在其2027年担任20国集团（G20）轮值主席国期间，启动一项制定全球人工智能标准的行动。
法国外长巴罗也同样敦促在联合国框架内以及与企业合作，为新时代制定规则。
不过，外交努力可能会与美国的立场发生冲突。
白宫科技政策办公室主任克拉齐奥斯表示，人工智能的快速发展并非暂停其研发或以新的治理结构加以限制的理由。
特朗普周二拒绝了对人工智能进行国际监管的提议，称此类提议是“全球主义阴谋”。
