（萨克拉门托19日讯）美国加利福尼亚州州长纽瑟姆当地时间周五签署行政令，要求州政府部门研究对人工智能（AI）模型设置强制“紧急关停机制”（kill switch）的可行性，并进一步加强对人工智能企业的独立监管和安全审查。
法新社报导，纽瑟姆当天表示，在美国联邦政府尚未采取更多人工智能监管措施的情况下，加州将加快相关工作。他说，人工智能企业高管自身也在呼吁加强监管。
他说，“我们不会坐等观望——我们要加快步伐，在为时已晚之前，建立实质性且负责任的人工智能监管机制。”
纽瑟姆被广泛视为2028年民主党总统候选人的潜在人选，他表示采取这一行动是因为美国总统特朗普在这一问题上毫无作为。
“紧急关停机制”是指在人工智能系统被认定发生故障或失控时，能够将其停止运行的能力。
根据行政令，加州将召集人工智能领域专家，在两个月内提出加强人工智能安全和监管的建议。其中包括研究要求人工智能企业在实验室设置独立第三方机构进行定期审计，以及要求企业为前沿人工智能模型建立“紧急关停机制”。
行政令还要求研究是否应要求人工智能企业报告“失去控制”事件，包括人工智能系统突破原有运行限制等情况。加州政府此前已将人工智能安全事故纳入监管框架，并推动建立独立人工智能审查和审计机制。
此次行政令出台之际，美国人工智能安全问题受到关注。此前，人工智能企业Anthropic研究人员雅各布·考克森辞职，并公开表达对人工智能可能失去人类控制的担忧。Anthropic首席执行员达里奥·阿莫代伊随后发表文章，呼吁放缓人工智能模型能力提升速度。
OpenAI首席执行员萨姆·奥尔特曼、美国企业家埃隆·马斯克以及谷歌DeepMind首席执行员德米斯・哈萨比斯等人也曾就人工智能安全和监管问题表达不同程度的担忧。
美国总统特朗普近期则淡化对人工智能安全风险的担忧，并反对大幅加强联邦层面的人工智能监管。他表示，美国需要继续推动人工智能发展，以保持在这一领域的竞争优势。
在联邦层面监管尚未形成统一框架的情况下，美国部分州正在自行推进人工智能监管。
