专家解读 | 《人工智能生成合成内容标识办法》

正文

请到「今天看啥」查看全文

综合来看，不论是国际组织，还是有关国家，肯定人工智能生成内容标识的制度价值并已提出相应规范，价值层面均倡导真实性以遏制虚假信息、深度伪造，技术层面基本均采用水印、内容标签等标识技术进行规制。

二、生成式人工智能改变内容生产与信息传播范式

第一，生成式人工智能革新生产方式。不同于传统的专业生成内容、用户生成内容形式，基于递归式生成模型，生成式人工智能可以通过与大量用户的对话和反馈，快速积累和更新内容；基于生成式对抗网络，生成式人工智能能够生成逼真的图像、音频和视频等内容。

第二，生成式人工智能赋能行业发展。2025年《政府工作报告》在部署今年工作任务中强调，持续推进“人工智能+”行动，将数字技术与制造优势、市场优势更好结合起来，支持大模型广泛应用。生成式人工智能业已为各行各业注入新质生产力。

在科研领域，生成式人工智能可快速查阅并总结参考文献，拟定研究思路，进行统计分析，甚至生成学术论文。一项收集1600名科研人员调查问卷的研究结果显示，使用AI辅助论文写作比例达25%。在制造领域，2024年10月，世界经济论坛“灯塔工厂”评选结果显示，生成式人工智能的应用使工厂的劳动生产率平均提高了50%。在视听领域，网络音频平台通过与汽车厂商共建车联网、与家电企业合作打造智能物联家居等方式，加速推进网络音视频服务在车载娱乐系统、智能家居、穿戴设备等终端的整合应用。

第三，生成式人工智能存在潜在风险。生成式人工智能给各行各业带来技术革新的同时，也带来了深度伪造、虚假信息的潜在风险。2024年1月，香港一家跨国公司经历了“变脸”诈骗，诈骗者通过公开渠道获取的媒体资料，利用深度伪造技术合成了该公司高管的形象和声音，并制作出多人参与视频会议的虚假视频，诈骗金额高达2亿港币。在某美国乘客起诉美国某航空公司的案件中，代理律师引用了人工智能生成的六个案例，然而法官发现六个案例的判决结果、引用出处均为虚构。不仅在事实信息上出现错误，甚至对知识类信息进行虚构。

第四，生成式人工智能的风险亟待防范规制。任何技术革新都是双刃剑，在发扬生成式人工智能的正向功能的同时，正视其潜在风险并进行相应的规制与防范，是AI治理的国际共识。国家网信办等部门于2022年发布的《互联网信息服务深度合成管理规定》，是世界范围内首次明确提出生成式人工智能标识义务的部门规章，要求深度合成服务提供者对深度合成服务履行标识义务。国家网信办等部门联合发布的《生成式人工智能服务管理暂行办法》沿用了该条规定。

三、《标识办法》进一步细化推进人工智能生成内容管理

请到「今天看啥」查看全文