（上海26日讯）2025世界人工智能大会（WAIC）周六在中国上海市正式开幕，去年获得诺贝尔物理学奖的“AI教父”欣顿发表主题演讲，再谈人工智能（AI）安全，对人类开发超级智能人工智能的风险发出了警告。
中国澎湃新闻报导，欣顿表示，人类理解语言的方式实际上很像大语言模型，因此人类实际上很像大语言模型，也会产生幻觉，经常编造东西，特别是当他们试图回忆很久以前发生的事情时。
但他也指出，大语言模型与人类非常不同且优于人类的是，电脑科学的一个基本原则是，该将软件与硬件分开，正是这一点让人们可以在不同的硬件上运行相同的程序，它使得电脑科学能够成为一个独立于电气工程的领域，如果做到了这一点，那么程序中包含的知识就是“不朽的”。
这位英国裔加拿大科学家进一步解释称：“如果你能把程序保存在某处，或者能把神经网络的权重存储在某个地方，那么你现在就可以销毁运行神经网络的所有硬件。”
“只要你有权重存储在某个地方，你现在就可以建造新的硬件，并且因为计算是数码化的，你可以在这些新硬件上运行完全相同的计算。”他说：“所以在这个意义上，数码电脑的程序是‘不朽的’。”
欣顿同时指出，数码计算需要大量能量，但它使得拥有完全相同权重的智能体，能够非常容易地共享它们从不同经验中学到的东西，生物计算需要的能量要少得多，但共享学到的东西却很困难。如果能源很便宜，数码计算就会好得多。
“这让我非常担忧，因为几乎所有的专家都相信，我们将制造出比我们更聪明的人工智能。我们如此习惯于作为顶尖智能，以至于很多人难以想象一个人工智能比我们更聪明的世界，会是什么样子……”欣顿表示，想知道非顶级智能体的感受？不妨问问鸡的生存体验。
他认为，人类正在创造智能体是因为它们更擅长完成任务，这些智能体已经具备创造自己子目标的能力。而一旦拥有创造子目标的能力，智能体就会想做两件事：一是生存，仅仅是为了能够实现我们赋予它们的目标；二是更多的控制权，也仅仅是为了能够实现我们赋予它们的目标。
因此，人类将会拥有想要生存和想要更多控制权的智能体，“而且我们将无法简单地关闭它们，它们会发现操纵使用它们的人非常容易，我们将像3岁小孩，而它们将像成年人，所以我认为那种当它们比我们更聪明时，我们就能让某人把它们关掉的想法是不切实际的，它们将能够操纵我们，并说服那个应该关掉它们的人不要那么做”。
人类目前处境像样小老虎
欣顿将人类目前的处境，比作养小老虎当宠物，小老虎非常可爱，能成为很好的宠物，但需要确保当它长大后，它不想吃了你。
“一般来说，养小老虎当宠物是个坏主意，有两个选择：想办法训练它，让它永远不想吃了你，或者摆脱它。”欣顿表示，对于人工智能，我们没有摆脱它的选项，人工智能对医疗保健、教育、气候变化、新材料等太多事情都非常有用，能为几乎所有行业提供帮助并使人类更具生产力。
他表示，如果人类想要生存，必须找到办法训练人工智能，不要让人工智能消灭人类。
欣顿指出，目前没有一个国家希望人工智能接管，每个国家都希望人类继续保持掌控权，如果任何一个国家找到了防止人工智能接管的方法，他们会非常乐意告诉所有其他国家。
因此，他建议建立一个由人工智能安全研究所和协会组成的国际共同体，致力于研发训练人工智能向善的技术，实现训练人工智能向善所需的技术与训练人工智能变得更聪明的技术，在某种程度上是分离的，让一个真正聪明的人工智能不想接管世界，即使它比大多数人聪明得多，也非常乐意处于人类的辅助角色。
欣顿最后说：“我们目前根本不知道如何做到这一点，长远来看，这是人类面临的最重要的问题。好消息是，这是一个所有国家都应该能够合作解决的问题。”如是说到。
欣顿是卷积神经网络理论的领军人物，也被视为由聊天机器人ChatGPT掀起的本轮人工智能技术跃进背后的奠基性科学家，被誉为“AI教父”。
本次世界人工智能大会以“智能时代 同球共济”为主题，共规划了超100场专业论坛，汇聚1200余位全球专家，12位图灵奖、诺贝尔而奖得主，大会将持续至下周一。
