(华盛顿8日讯)OpenAI的首席机器人主管卡利诺夫斯基当地时间周六(7日)表示,她已正式辞职,理由是这家人工智能(AI)巨头与美国政府达成协议,允许其技术用于战争和国内监视。
法新社报导,这家开发出ChatGPT的公司上个月与五角大厦签订了一份国防合同,而就在几个小时前,其竞争对手Anthropic拒绝同意无条件地将其技术用于军事用途。
由于外界批评OpenAI赋予军方官员过大权力且缺乏监管,OpenAI首席执行员奥尔特曼随后在社交平台X上发帖称,该公司将修改合同,以确保其模型不会被用于“对美国国民进行国内监视”。
卡利诺夫斯基表示,她非常关心“机器人团队以及我们共同完成的工作”,但“在缺乏司法监督的情况下监控美国国民,以及在未经人类授权的情况下赋予对生命生杀予夺的自主权,这些红线本应得到更深入的审议。”
她在X平台的一条帖文中写道:“这是原则问题,而非针对个人。”
卡利诺夫斯基在后续贴文中补充道,她对OpenAI与五角大厦的协议过于仓促感到不满。
她写道:“澄清一下,我的问题在于,这项声明是在没有明确定义护栏(监管机制)的情况下仓促发布的。”
“这首要是一个治理问题。这些事情过于重要,协议或声明不应该如此草率。”
此前,Anthropic拒绝授权其Claude AI模型用于军事用途,引发了美国官员的不满。
卡利诺夫斯基此前在Meta工作,曾负责开发增强现实(AR)眼镜。