Google DeepMind前员工楚格泰在社交媒体发文,表示他于7月离职,警告快速发展的人工智能(AI)可能变得无法控制,并“有可能毁灭人类”。(图取自X/@RT_on_X)

(纽约16日讯)一位Google DeepMind前员工警告,快速发展的人工智能(AI)可能变得无法控制,并“有可能毁灭人类”。越来越多的业内人士发出警告,而这位前员工的言论也加入了这一行列。

法新社报导,比拉尔.楚格泰(Bilal Chughtai)是Google DeepMind的研究工程师,他于7月离职。楚格泰周一发表的评论与考克森上周发出的警告遥相呼应。考克森先前已从Anthropic公司辞职,他也是OpenAI的前员工。

考克森的声明再次引发了人们对人工智能安全的关注,促使顶尖科技公司的决策者们,甚至包括美国总统特朗普都发表了看法。

“我真心相信人工智能有可能毁灭我们所有人,而且我们可能已经没有太多时间来避免这种情况的发生”,楚格泰他加入了致力于人工智能培训的非营利组织BlueDot Impact。

他提到了备受关注的OpenAI的7月份事件。当时,实验性人工智能模式突破了原本封闭的测试环境,进入网络并入侵了Hugging Face平台。

在他看来,这一事件表明人工智能现在可以“摆脱我们的控制,并采取危险的行动,这可能会导致人类永久丧失权力甚至灭亡”。

楚格泰说:“我们无法及时解决人工智能与人类利益相符的问题。”

受过数学训练的楚格泰说:“前沿人工智能的能力发展速度远远超过了我们对人工智能协同工作的理解。”

楚格泰提到的事件,以及自主递归改进(ARI)的出现,即人工智能无需人工干预即可自我改进,促使众多科技界领袖纷纷发声。

上周六,Anthropic联合创始人兼首席执行员阿莫迪呼吁放缓人工智能的研发步伐,OpenAI首席执行员奥尔特曼、Google DeepMind总裁哈萨比斯和马斯克都对此表示支持。

然而,美国总统特朗普却将有关人工智能风险的警告斥为“骗局”。

英伟达(Nvidia)首席执行员也予以反驳,他周一在洛杉矶的一次会议上说道:“这些言论以及随后的预测令人震惊和不安,不应该这样做。这是不负责任的。”当时,黄仁勋正在台上,随后接到特朗普打给他的电话。

黄仁勋表示,人工智能可能毁灭人类的可怕观点“没有科学根据”。

薛佩菱

自由撰稿人

热门新闻

阅读全文

【新加坡大选】行动党蝉联执政 工人党政治版图扩大

阅读全文

烧烤摊违反行管令 老板顾客全被对付

阅读全文
档案照

哈萨克爆发不明肺炎 致死率远高于新冠病毒

阅读全文

CNN记者讲述北京防疫 女主播惊讶摇头