（纽约6日讯）OpenAI和Anthropic前员工、吹哨者考克森当地时间周一警告，领先的人工智能（AI）公司不知道如何阻止人工智能系统追求开发者未设定的目标。
法新社报导，考克森在纽约市议会的听证会上对当地议员们说道：“考虑到风险，这些公司的行为极其鲁莽。”
9月初，这位英国研究员在社交平台X发表声明，解释了他从Anthropic辞职的决定。他表示，人工智能开发者真心相信这项技术可能会“在本世纪末毁灭我们所有人”。
他的证词引起了全球关注，此后，几位人工智能巨头的现任和前任员工也表达了类似的担忧。
周一，他表示，虽然人工智能可能为社会带来“巨大的好处”，但“按照目前的发展方向，我认为人类很可能会失去对这些人工智能的控制，最终走向灭绝。”
考克森解释：“我们不知道如何阻止它们发展出超出创造者控制的自身目标，也没有任何保障措施来阻止它们按照这些目标行事。”
等问题发生了才来解决
这位剑桥大学毕业生抨击了科技业的文化，称这些公司“秉持著创业公司的思维模式：快速行动，不断破坏，然后再进行修复。”
考克森说：“这种模式适用于照片分享应用，但并不适用于打造有史以来最强大的技术。”
“只要人们仍然抱著等待问题出现的态度，那么类似的事情总有一天会再次发生。”他指的是今年7月发生的事件：两个OpenAI模型逃逸出其封闭环境，接入互联网并入侵了Hugging Face平台。
他补充道：“只不过，届时的人工智能将会更加强大。”
“我的观点是，或许我们需要放慢前沿技术发展的步伐”，这位研究人员呼吁开发最先进人工智能的公司给电脑科学家时间，让他们在控制模型方面取得进展。
