(三藩市15日讯)OpenAI首席执行员奥尔特曼表示,ChatGPT很快就会允许经过验证的成年人创作生成色情内容。
英国广播公司(BBC)周三报导,奥尔特曼表示,OpenAI计划在其热门聊天机器人 ChatGPT上允许更广泛的内容,包括色情内容,这是其“将成年用户视为成年人”的努力之一。
奥尔特曼周二在社交平台X的一篇贴文中表示,这款热门聊天机器人即将推出的版本将使其行为更像人类,“但前提是你想要,而不是因为我们正在最大化使用量”。
此举让人想起亿万富豪马斯克的xAI最近在Grok上推出的两个色情聊天机器人,这可能有助于OpenAI吸引更多付费用户。
另一边厢,这也可能加大立法者对聊天机器人同伴施加更严格限制的压力。
在奥尔特曼发表贴文后,OpenAI尚未回应BBC的置评请求。
该公司宣布这些变化是在今年稍早,被一名自杀美国青少年的父母起诉之后发生的。
这起诉讼由16岁少年亚当.雷恩的父母马特和玛丽亚提起,是首例指控OpenAI非正常死亡的法律诉讼。
这对加州夫妇批评OpenAI的家长控制机制,称其做得不够。OpenAI声称,该机制旨在促进用户更健康地使用其聊天机器人。
该家庭提供了亚当(亚当于4月去世)与ChatGPT的聊天记录,其中显示亚当曾解释自己有自杀倾向。
奥尔特曼表示,OpenAI先前对ChatGPT进行了“相当严格的限制,以确保我们谨慎处理心理健康问题”。
“把成年人当成年人看待”
奥尔特曼说:“我们意识到,这会让许多没有心理健康问题的用户觉得ChatGPT不太实用/不尽兴,但考虑到问题的严重性,我们希望能够妥善处理。”
他表示,该公司现在已经能够减轻严重的心理健康风险,并拥有新的工具,使其能够“在大多数情况下安全地放宽限制”。
他说:“随著我们12月全面推行年龄限制,并秉持‘像对待成年人一样对待成年用户’的原则,我们将允许更多内容,例如允许经过验证的成年人观看色情内容。”
批评人士表示,OpenAI决定允许在平台上发布色情内容表明需要联邦和州一级加强监管。
质疑年龄认证措施是否奏效
“他们如何确保儿童无法访问ChatGPT中仅限成人观看且提供色情内容的部分?”Boies Schiller Flexner律师楼合伙人Jenny Kim问道。 “Open AI和该领域的大多数大型科技公司一样,只是把人当作实验对象。”
Kim正在对Meta提起诉讼,指控该公司旗下的Instagram演算法损害了青少年用户的心理健康。她说:“我们甚至不知道他们的年龄限制是否会奏效。”
今年4月,TechCrunch报导,OpenAI允许未成年人注册的帐号产生色情图片。
OpenAI当时表示,该公司正在推出修复程式以限制此类内容。
非营利组织民主与科技中心(CDT)本月发布的一项调查发现,1/5的学生表示,他们或他们认识的人曾与人工智能(AI)有过恋爱关系。
周一,加州州长纽瑟姆否决了州议会通过的一项法案,该法案禁止开发者向儿童提供人工智能聊天机器人伴侣,除非这些公司能够保证该软体不会滋生有害行为。
纽瑟姆在否决的声明中表示,“青少年必须学习如何安全地与人工智能系统互动”。
在全国范围内,美国联邦贸易委员会(FTC)已启动一项关于人工智能聊天机器人如何与儿童互动的调查。
上个月,美国联邦参议院通过了一项两党立法,将人工智能聊天机器人归类为产品。该法案将允许用户,向聊天机器人开发者提起责任索赔。
奥尔特曼周二宣布这一消息之际,怀疑论者一直在质疑人工智能科技公司估值的快速成长。
OpenAI的营收正在成长,但从未获利。
杜兰大学商学院教授、新书《The Venture Alchemists》的作者拉尔卡表示,各大人工智能公司都陷入了市场份额争夺战。
拉尔卡告诉BBC:“没有任何一家公司像OpenAI的ChatGPT那样受到广泛采用。”
“他们需要继续沿著指数级增长曲线前进,尽可能地占据市场主导地位。”