(示意图)

(巴黎4日讯)美国人工智慧(AI)公司OpenAI指出,将为聊天机器人ChatGPT增加家长监控功能,一周前一对美国夫妇控称这套系统鼓励他们的青少年儿子自杀。

中央社引述法新社的报导,OpenAI在部落格贴文指出,“接下来一个月内,家长将能…将自己的帐号与青少年子女帐号连结,并控制ChatGPT对其子女的回应,让其符合年龄适宜的模型行为规则。”

OpenAI表示,当系统侦测到青少年处于“剧烈苦恼时刻”,家长也会收到ChatGPT的通知。

马修和玛丽亚.雷恩上周在加州州法院提出诉讼,控称ChatGPT在2024年到2025年间,与他们的儿子亚当(Adam Raine)建立了亲密关系,最终导致他结束自己的生命。

诉状指控,在2025年4月11日的最后一次对话中,ChatGPT协助16岁的亚当偷取父母的伏特加酒,并对他系上的绳结进行技术分析,确认这个绳结“可能可以吊起一个人”。

几小时后,亚当使用这种方式自尽。

科技正义法计计划律师丁契尔表示:“当人们使用ChatGPT时,真的会觉得自己是与某个存在者对话。”

丁契尔说:“这些功能可能导致像亚当这样的使用者,随著时间过去,会愈来愈多地分享个人生活,最终甚至开始向这个看似无所不知的产品寻求建议与指导。”

她强调,产品设计特性让使用者容易将聊天机器人视为值得信赖的角色,如朋友、治疗师或医师。

丁契尔批评OpenAI公布家长监控与安全措施的部落格贴文过于“空泛”,缺乏细节。

OpenAI指出,未来三个月将进一步提升聊天机器人的安全性,包括将“某些敏感对话”转接至推理模型(reasoning model),让其投入更多运算资源生成回应。

OpenAI还表示,“我们的测试显示,推理模型能更一致地遵循并应用安全准则。”

延伸阅读:ChatGPT遭控鼓励轻生 美16岁少年父母怒告OpenAI

刘修彣

热门新闻

阅读全文

【新加坡大选】行动党蝉联执政 工人党政治版图扩大

阅读全文

烧烤摊违反行管令 老板顾客全被对付

阅读全文
档案照

哈萨克爆发不明肺炎 致死率远高于新冠病毒

阅读全文

CNN记者讲述北京防疫 女主播惊讶摇头