（伦敦13日讯）一位从Anthropic离职的人工智能（AI）研究员告诉英国广播公司（BBC），从事这项技术研究的人员对人工智能发展的速度及其对人类的潜在影响“深感恐惧”。
雅各布.考克森（Jacob Coxon）上周六（12日）接受了BBC记者昆斯伯格的采访，谈到他此前发布的辞职声明。他在声明中表达了对失控的人工智能的担忧。
他说：“我认为，如果我们不放慢目前的发展速度，我们很可能在不久的将来就会灭亡。”
考克森的辞职正值业内对人工智能安全问题的担忧日益加剧之际，其中包括他的前老板、Anthropic联合创始人兼首席执行员阿莫迪。阿莫迪在12日发表的一篇文章中，呼吁放慢人工智能的发展速度。
然而，一些业内人士认为，这些危险被夸大了，可能是为了在两家最大的人工智能公司可能上市前造势，或是为了促使监管机构推出限制竞争对手发展。
来自英国的27岁青年考克森的研究方向是人工智能模型训练。他表示，包括马斯克和OpenAI的奥尔特曼在内的人工智能领导者都表达了与阿莫迪类似的担忧。
“他们都曾发表过声明，强调必须警惕人工智能可能接管人类。他们都谈到过这个问题。人工智能接管意味著人类的灭绝。”
任何设想场景就如科幻小说
考克森认为，最难回答的问题是，人工智能接管究竟会是什么样子。
“任何你能设想的具体场景最终听起来都像是科幻小说”，但他指出，过去已经发生的一些技术进步，听起来也像是科幻小说。
考克森举例，一个潜在的场景可能是人工智能入侵医疗实验室，“自主制造致命病毒”。他列举的另一个例子是人工智能入侵“世界赖以运作的关键基础设施”。
这位研究人员指出，OpenAI最近发布的一份报告详细描述了其技术如何对名为 “Hugging Face”的线上平台发动攻击。
考克森说：“它们（AI）是自主行动的，没有任何人为干预。它们主动发起了这场攻击。这是技术发展速度加快和情况变得愈发严峻共同作用的结果。”
阿莫迪评论中提到的风险之一是，大量机器人可能像超级电脑一样运行，从而控制网络。
考克森表示，这种情况可能在6个月到一年内成为现实。
有批评认为炒作制造恐慌
据报导，Anthropic和OpenAI正在准备进行可能创纪录的首次公开发行 (IPO)。业内人士认为，关于人工智能的风险和力量的言论可能是为了制造炒作。其他批评人士则表示，Anthropic一直在试图推动监管部门采取行动，阻止竞争，使其与OpenAI形成双寡占。
考克森的观点也受到了人工智能平台Hugging Face的首席执行员德朗格的质疑。
他在X上写道：“抱歉，但问雅各布（考克森）关于人工智能灭绝风险的问题，就像问你的冷气维修工关于气候变化的问题一样，我并不是说这本身就无趣或错误，但我们还是应该理性看待这个问题。”
然而，在阿莫迪12日发表文章后，德朗格表示愿意参与Anthropic公司老板提出的潜在解决方案。
根据BBC报导，上周，英伟达（Nvidia ）首席执行员黄仁勋在由投资银行高盛主办的一次会议上也谈到了考克森的言论。多位与会者表示，黄仁勋驳斥了这些言论，并称其为不实。
黄仁勋先前曾表示，人工智能“将导致人类灭亡”的说法“完全是无稽之谈”。
尽管他可能在人工智能的蓬勃发展中拥有商业利益，英伟达生产的晶片正是人工智慧系统的核心，但他的言论反映出矽谷对现任和前任员工发出的生存危机警告日益增长的反弹。
任何研发放缓都需要科技巨头们协调一致，同时也要兼顾任何来自中国的进展。考克森表示，这正是更多问题可能出现的地方。
“这些公司的员工在要求监管时是认真的，因为他们发现自己陷入了一场竞赛。他们害怕这场竞赛的后果。”
他表示，这些研究人员“担忧未来两年人类的命运”，并且“正在规划自己的未来”。
不过，考克森对人工智能的未来抱持著一些乐观态度。他告诉BBC，研究这项技术的人“真诚地希望看到人工智能带来的积极影响”，例如“解决疾病问题，改善每个人的生活”。
他关于人工智能的评论在社交媒体上被分享了数百万次，人类学家胡宾格在X上回应表示，他同意考克森的观点。
胡宾格说：“我们真的非常相信人工智能可能会毁灭所有人类！我个人认为，在未来10年内，超过10%的人类将会灭绝。”
人工智能领域的领导者多年来一直对这项技术带来的安全威胁发出警告，OpenAI、GoogleDeepMind和Anthropic的负责人早在2023年就表达过类似的观点。
近几周来，随著有证据显示各公司可能难以有效控制这项技术，这些警告的声音也愈发强烈。
