(三藩市12日讯)美国人工智能公司Anthropic披露,也门的一个组织曾试图利用其聊天机器人Claude来制造制导火箭和导弹;目前,获伊朗支持的“青年运动”正在该国发动攻势。
法新社报导,Anthropic在周四发布的报告中阐述其如何在多个国家阻止Claude被用于非法用途。
报告指出,公司“发现了一个位于也门北部的威胁行为体小组,该小组正在开展3个武器开发项目”。这些武器包括:“一种采用商用手机级飞行计算机并具备末端寻的制导能力的制导火箭;一种设计射程超过2000公里的多级弹道导弹;以及一种包含高超音速滑翔飞行器型号的多型导弹系统”。
该团伙利用Claude开发了用于这些机载武器的制导、导航与控制软件,而原本这项工作通常是需要一支工程师团队来完成。
Anthropic公司表示:“我们没有证据表明这些人员成功部署了可投入实战的装置,但他们确实试射过一枚制导火箭。”
“此次实地测试似乎以失败告终:在测试后的数小时内,这些人便重新求助于Claude,试图找出失败的原因。”
Anthropic表示,一旦发现此类违规活动,便立即封禁了相关账户。
尽管该公司未明确指出涉事人员的身份,但此事很可能与“青年运动”有关,该组织自9月3日发动攻势以来,已在也门西部攻占约5400平方公里土地。也门政府方面也说,“青年运动”已控制该国整个西部海岸并继续向南推进。