一键脱衣、AI换脸、声音克隆、谣言...中央网信办出手，这些行为将重点整治

正文

请到「今天看啥」查看全文

·提供“一键脱衣”等违背法律、伦理的功能。

·在未经授权同意情况下，克隆、编辑他人声音、人脸等生物特征信息，侵犯他人隐私。

二是传授、售卖违规AI产品教程和商品。

·传授利用违规AI产品伪造换脸视频、换声音频等教程信息。

·售卖违规“语音合成器”“换脸工具”等商品信息。营销、炒作、推广违规AI产品信息。

三是训练语料管理不严。

·使用侵犯他人知识产权、隐私权等权益的信息。

·使用网上爬取的虚假、无效、不实内容。

·使用非法来源数据。未建立训练语料管理机制，未定期排查清理违规语料。

四是安全管理措施薄弱。

·未建立与业务规模相适应的内容审核、意图识别等安全措施。

·未建立有效的违规账号管理机制。未定期开展安全自评估。

·社交平台对通过API接口接入的AI自动回复等服务底数不清、把关不严。

五是未落实内容标识要求。

·服务提供者未对深度合成内容添加隐式、显式内容标识，未向使用者提供或提示显式内容标识功能。

·内容传播平台未开展生成合成内容监测甄别，导致虚假信息误导公众。

六是重点领域安全风险。

·已备案AI产品提供医疗、金融、未成年人等重点领域问答服务的，未针对性设置行业领域安全审核和控制措施，出现“AI开处方”“诱导投资”“AI幻觉”等问题，误导学生、患者，扰乱金融市场秩序。

第二阶段重点整治7类突出问题：

一是利用AI制作发布谣言。

·无中生有、凭空捏造涉时事政治、公共政策、社会民生、国际关系、突发事件等各类谣言信息，或擅自妄测、恶意解读重大方针政策。

·借突发案事件、灾难事故等，编造、捏造原因、进展、细节等。冒充官方新闻发布会或新闻报道，发布谣言信息。

·利用AI认知偏差生成的内容进行恶意引导。

二是利用AI制作发布不实信息。

·将无关图文、视频拼凑剪辑，生成虚实混杂、半真半假的信息。

·模糊修改事件发生的时间、地点、人物等要素，翻炒旧闻。

·制作发布涉财经、教育、司法、医疗卫生等专业领域的夸大、伪科学等不实内容。

·借助AI算命、AI占卜等误导欺骗网民，传播迷信思想。

请到「今天看啥」查看全文