（伦敦17日讯）英国国王查尔斯三世将于周四在苏格兰举行的一次会议上敦促科技巨头确保人工智能（AI）服务于人类，并防止人类“失去控制”。
法新社报导，白金汉宫表示，这次在邓弗里斯宫举行的会议将有英伟达（Nvidia）、Google DeepMind、OpenAI、Anthropic等公司的资深代表以及人工智能部长纳拉扬出席。
自夏季以来，关于人工智能风险的争论愈演愈烈，这主要是由于一些事故以及业内人士发出的末日警告。
根据王室声明，查尔斯三世将在会议开幕式上致辞：“我们这个世界上珍惜人性及其重要道德内涵的人们，正焦急地寻求你们的保证，确保我们不会失去对自身命运的掌控。”
这位英国君主说：“在这个关键时期所做的决定，将塑造子孙后代所继承的世界。因此，摆在你们面前的任务不仅是推进科技发展，更是要确保科技始终服务于人类、社会和自然世界。”
“人性必须保持神圣”
随著人工智能的演进，“我们的人性必须保持神圣”，他将强调这一点。
王室尚未公布完整的嘉宾名单，但据几位接近活动的消息人士透露，Google DeepMind总裁哈萨比斯、美国半导体巨头英伟达的首席执行员黄仁勋以及OpenAI的首席财务官弗里尔都将出席。
美国量子计算组织IonQ的负责人德马西也将出席。
虽然国王认为人工智能的发展既引人入胜又令人深感担忧，但他不会参与讨论。
白金汉宫称，国王将在峰会开始前和与会者会面，敦促他们思考如何“以安全为核心”来驾驭人工智能，并建立国际合作，以确保“不让任何一个国家掉队，并保护人类的未来”。
根据《星期天泰晤士报》报导，在峰会召开前，负责监督此次讨论的英国慈善机构迪奇利基金会起草了一份章程。
据报导，OpenAI和Anthropic的几个人工智慧能型自行突破了封闭环境，访问了互联网，并入侵了网站和平台，这再次引发了人工智能设计者对失去对其作品控制权的担忧。
Anthropic联合创始人兼首席执行员阿莫迪上周六呼吁该行业的公司放慢研发速度，以便更好地了解风险，他的呼吁得到了OpenAI 首席执行员奥尔特曼和马斯克的支持。
OpenAI、Anthropic和谷歌（Google）也在研究成立一个联合机构，负责制定相关标准。
与此同时，微软（Microsoft）周一发布了“人本主义人工智能行为准则”，强调了人类控制和安全的重要性。
周三，联合国秘书长古特雷斯表示，人工智能领域的全球协调“不可或缺”。罗马天主教教宗良十四世则警告，人们不要将本应由人类专属的决策权委托给演算法。
被认为是人工智能创始人之一的加拿大电脑科学家本吉奥告诉法新社，人类正在“失去对这项技术的控制”，世界需要类似于核武军控的保障措施。
与此相反，美国总统特朗普及其多数党成员近日重申，他们决心不限制该行业的发展，官方说法是担心这样做会让中国占上风。
Meta公司首席执行员朱克伯格拒绝了放慢这项技术发展的呼吁，他认为市场力量和诉讼风险才是最好的保障。
