AI“靳东”正在进化，越来越难防

正文

请到「今天看啥」查看全文

全国人大代表、小米集团创始人雷军建议，加强“AI换脸拟声”违法侵权重灾区治理——去年国庆期间，“AI雷军”那句“开小米Su7创死你们”，就让他本人深受其扰。全国政协委员、四川大学华西医院教授甘华田则称，应当加快制定针对AI生成虚假信息的专项法律法规。

◎ 雷军深受AI拟声恶搞视频所扰

甘华田在接受媒体采访时强调，AI生成的虚假信息“已严重干扰公众判断、损害社会公信力和稳定”。

清华大学新闻与传播学院副教授陆洪磊告诉南风窗，如果对AI谣言放任自流，很可能会对社会的信心和稳定在造成巨大冲击。

他说：“我们正在面临一场前所未有的认知战争。”

真与假的边缘

一个看起来不过周岁左右的婴儿，左手端握着瓷碗，右手熟练地使用筷子，把沾满辣椒酱的面条喂进嘴中、咀嚼吞下。

光是文字描述，大多数人都能立刻意识到上述场景违反常理之处，如果进一步仔细辨认其中的细节，人们会发现，面条在被夹起以后骤然变得稀疏，与婴儿吞咽的节奏并不一致——显然，这是AI生成的“杰作”。

但仅凭这样粗糙的完成度，就足以令一部分中老年用户蒙在鼓中。在AI生成的婴幼儿短视频的评论区，鲜花、爱心和大拇指的表情包，被“人海沉浮”“上善若水”们反复敲下，堆砌成一片热烈的海洋。

一则广为流传的AI视频中，一群胖嘟嘟的婴儿，抱着硕大的金元宝，迎面走来。评论区清一色是“爷爷（或奶奶）接住了。”

春节期间，有网友回家过年，发现家中老人对着这样一段短短几秒的视频，反复观看了一个小时，笑得合不拢嘴，“老人沉迷假孙子”现象，这才引起了广泛的关注，也让AI假信息在老年群体中的泛滥问题，引发了广泛讨论。

部分AI短视频底部，会附以一行半透明的小字：“作者提示：内容为AI技术制作，虚构内容请谨慎甄别。”先不论这行不起眼的小字能否被中老年人的老花眼睛看清，“AI”究竟是什么、有什么用，他们或许都不甚清晰，只怀抱着一副朴素的心态浏览互联网上的种种奇观：“视频怎么会骗人呢？”

被AI蒙骗，并非中老年人的“专利”。就在上个月，正值壮年的“80后”也被AI谣言玩弄于股掌之中：一则“中国80后累计死亡率为5.20%”的信息在网络上肆意蔓延，而中国人民大学教授李婷对此公开辟谣时称，这一虚假数据很有可能“来源于AI大模型的错误”。

甚至股市也会被AI谣言操纵。2023年5月，一网友利用某生成式AI撰写信息发表于某股市平台，造成科大讯飞当日午后遭遇股价跳水，盘中一度跌超9%。

请到「今天看啥」查看全文