(北京16日讯)中国国家互联网信息办公室等4部门发布《人工智慧生成合成内容标识办法》(简称《标识办法》),要求AI生成合成的内容,未来都必须添加标识,于今年9月1日起施行。
据中国央视网等媒体周六报导,为了促进人工智能(AI)健康发展,规范人工智能生成合成内容标识,保护公民、法人和其他组织合法权益,维护社会公共利益,中国国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《标识办法》。
显式标识和隐式标识两种形式
《标识办法》明确,人工智能生成合成内容标识主要包括显式标识和隐式标识两种形式,显式标识是指在生成合成内容或者交互场景界面中添加的,以文字、声音、图形等方式呈现并可以被用户明显感知到的标识;隐式标识是指采取技术措施在生成合成内容文件数据中添加的,不易被用户明显感知到的标识。
例如,可能导致公众混淆或者误认的,应当在生成或者编辑的讯息内容的合理位置、区域进行显著标识,向公众提示深度合成情况,包括“智慧对话、智慧写作等模拟自然人进行文本的生成或者编辑服务。”
网信办负责人提到,《标识办法》的一大重点是为了解决“哪些是生成的”、“谁生成的”、“从哪里生成的”问题,推动由生成到传播各环节的全流程安全管理,力争打造可信赖的人工智能技术。
《标识办法》也强调,任何组织和个人不得恶意删除、篡改、伪造、隐匿本办法规定的生成合成内容标识,不得为他人实施上述恶意行为提供工具或者服务,不得通过不正当标识手段损害他人合法权益。
AI技术滥用乱象频发
随著人工智能快速发展,随之而来的问题也日益突出。中共中央网信办今年将重点整治AI技术滥用乱象,打击借AI技术生成虚假信息等问题。
中国近期发生多起滥用AI的相关事件,包含用AI假冒名人推销产品,甚至透过AI假冒名人进行诈骗等,连知名艺人靳东、企业家雷军都成为假冒的目标,并已经有大量受害者被骗上当。
中国央视年度节目3·15晚会也曝光骚扰电话产业链,人工智能(AI)外呼机器人成为骚扰电话帮凶。
报导说,一年多来,中国互联网上出现了很多所谓“外呼”业务的广告,这些外呼公司的核心业务,就是帮助商家向手机用户拨打自己的营销电话,俗称“电销”。这些外呼公司打著“高效触达用户”“精准拓客”等旗号招揽生意,甚至还宣称可以通过AI智能机器人拨打营销电话。