(三藩市5日讯)美国政府考虑要求人工智能(AI)模型在向公众发布前接受官方监管,这与此前对该技术采取的放任态度截然相反。
根据法新社,美国《纽约时报》周一援引美国官员及知情人士的话报导,白宫正在讨论一项行政命令,拟建立一个由科技高管和政府官员组成的工作组,以评估针对新人工智能模型的可能审查程序。
上周,政府高级官员在会议中向Anthropic、谷歌(Google)和OpenAI等主要人工智能企业的高管,简要介绍了该审查的部分计划。这标志著本届政府此前立场的重大转变。
美国总统特朗普此前曾将自己定位为不受限制的人工智能发展捍卫者,撤销了前总统拜登执政时期的安全评估要求,并将监管视为威胁美国对中国的竞争。
拜登政府曾于2023年发布行政命令,要求人工智能开发商与政府分享安全测试结果,并指示联邦机构制定技术标准。特朗普就职后不久便废除了这些措施。
但《纽约时报》指出,公众对人工智能在就业、能源成本、教育和心理健康方面影响的焦虑日益增长,加上民主党和共和党对此的关注,似乎改变了政府的考量。
Mythos引发资安风险
直接的催化剂是人工智能初创公司Anthropic,开发的一款名为“Mythos”的强大新模型的出现。该公司表示,该模型识别软件安全漏洞的能力可能导致“网络安全危机”,因此已拒绝向公众发布Mythos。
报导称,政府官员希望避免因人工智能引发的毁灭性网络攻击造成的政治后果,同时也正在评估,先进模型是否能产生对五角大厦和情报机构有用的能力。
一名白宫官员告诉《纽约时报》,关于可能发布行政命令的传闻纯属“猜测”,并表示任何政策声明都将由特朗普本人发布。
此次重新评估正值特朗普政府内部人工智能领导层重组之际。
矽谷资深人士、曾力主放宽管制的白宫加密货币和人工智能事务主管萨克斯,于今年3月离职。
白宫幕僚长怀尔斯和财政部长贝森特已介入,并向幕僚们表示,他们打算在塑造人工智能政策方面发挥更积极的作用。
目前,Anthropic与五角大厦之间正就一项价值2亿美元(约7亿9300万令吉)的合同以及美军使用人工智能的条款展开法律诉讼。