真人“数字人”傻傻分不清专家：细化技术标准让“AI数字人”透明化合规化

主要观点总结

本文介绍了关于AI生成的内容难以分辨真假的问题，很多人担心存在肖像权侵权等违法犯罪风险隐患。文章指出一些账号利用AI生成的内容欺骗公众，甚至进行诈骗等犯罪活动。对此，专家呼吁加强监管，制定更明确的标准和法规来规范AI生成内容的标识和行为。同时，也需要加强平台的审核能力，确保内容的真实性。

关键观点总结

关键观点1: AI生成的内容难以分辨真假。

很多人被AI生成的内容欺骗，甚至面临肖像权侵权等违法犯罪风险。受访者的调查显示，有七成人难以分清AI生成的内容和真人。

关键观点2: AI生成内容被用于诈骗和虚假宣传。

一些账号利用AI生成内容进行虚假宣传或诈骗活动，特别是针对中老年人和未成年人的群体。这些行为严重侵犯消费者权益，扰乱市场秩序。

关键观点3: 相关法规和标准存在落地难的问题。

尽管已有相关法规和规范出台，但监管和技术手段有限，难以彻底发现并纠正违规行为。部分平台也存在管理能力不足和技术支持欠缺的问题。

关键观点4: 专家建议加强监管和审核。

专家呼吁加强AI生成内容的审核和监管，制定更明确的标准和法规来规范行为。同时建议强化平台管理能力，提高技术手段，确保内容的真实性。对于违规行为的处罚也需要更加严厉，以震慑违规者。

正文

请到「今天看啥」查看全文

习惯在直播间购物的北京市民李菲说，自己经常误入“数字人”直播间，“数字人”主播侃侃而谈介绍商品，手部动作还能随着她说话的节奏不断变动，声音流畅而自然。

“要仔细看才能看到直播间左侧一行‘现直播内容为数字人直播，非真人直播’的小字提醒。”李菲说，自己现在习惯了进直播间“先找小字”，确认主播是否为真人，“但真的‘费眼睛’，不是在犄角旮旯，就是字体几乎透明，不注意根本看不到”。

袁伟（化名）是某985高校计算机系研究生。他告诉记者：“现在一些AI大模型生成的图，别说中老年人会误以为真，很多没怎么接触过AI技术的年轻人都不见得能分辨真假。”

他随即为记者演示，向某AI软件输入指令“帮我生成图片：一个容貌姣好的女性，精细的皮肤纹理，室外自然光”，随即生成的图片与真人照片相差无几，如果不是右下角自带的水印，只让人觉得是一张普通的美女照片。“如果说早期的AI软件大多不能生成自然的手指和人体比例，现在技术进步得很快，生成的手指和人体比例已经比较像样了，更加大了分辨的难度。”

“这样的AI生成图片或视频，如果不作标识提示，会让很多人信以为真。”袁伟说。

大量账号未作标识

记者在某社交平台上注意到一名为“××AI打假人”的账户，其发帖称自己将致力于“揪出纯AI生成的内容博主，帮小白识别真伪”，还表示“关注了很多AI生成非真实的帅哥美女”。

在其关注列表里有300多个账号，记者随机选取了其中20个账号浏览发现，若没有看到评论区“这是AI吧，手指的细节很诡异”“背景里的文字都是乱码”等留言，记者第一反应只以为他们是普通的颜值时尚类博主。

这20个粉丝量几百到几万不等的账号，仅有3个账号在简介中写明“虚拟男友”“AI”“友情提示视频由虚拟现实技术制作”，两个账号主页的内容经平台审核后被打上了“疑似包含AI创作信息，请谨慎甄别”的标签。其余账号在简介、内容中并未提及“AI”字眼，平台的监测机制也并未识别到，这些账号甚至还在评论区熟稔地与其他用户互动，让自己看上去更有“真人感”。

请到「今天看啥」查看全文