专栏名称: 知识星球精选
知识星球(原小密圈)官方订阅号,深度精选付费内容与优质精华。
目录
相关文章推荐
51好读  ›  专栏  ›  知识星球精选

我已经没法分清新闻到底是不是AI编的了

知识星球精选  · 公众号  · 内容分发  · 2025-05-16 08:00

正文

请到「今天看啥」查看全文


别看这些消息说得有鼻子有眼,有人物有对话有细节,仿佛当事人身临其境目睹了一切,但仔细查验就知道,里面提到的很多人是不存在的,很多事是时间错位的,很多冲突是虚构的。

它们都是AI编造的,而非事实。

但这就是如今我们的互联网。

大到国际政治与纷争,小到生活科技的发展,方方面面都充斥着AI编造的谣言。

甚至不止互联网,也不止写研报的分析师,现在 律师也都用ai瞎编。

根据路透社的报道,美国法院对多个律师提出过警告,因为他们会在法律文件中使用AI生成的虚假信息,包括特朗普的前律师。

他利用Bard生成的判例为自己申请缓刑,但这些判例中有不少是AI胡乱编造的。

还有其他律师 引用了AI生成的虚假案例,被法院发现并罚款2000美元。

你看,理应 更有逻辑、更严谨的律师之流都如此,就别提普通网友了。

如今人们创造了一个新词,叫做 AI幻觉 ,指的就是这些AI瞎编不存在的事情。

但ai瞎编叫做幻觉,人类把ai瞎编的东西当作真事发出来就纯属造谣了。

有时候甚至不是人类不小心相信了ai,而是人类就是利用ai瞎编,装成是真事发到网上。

不停污染互联网的数据库,让现在网络上充满了各种造谣瞎编的信息。

致互联 网面临巨大的垃圾信息污染。

而这些垃圾谣言信息被发出来以后,则又会被各种爬虫给抓取回去,当成是真事进行训练学习。

这样一来二去折腾个几遍,假的也被说成真的了。

假消息当然不是AI的首创。

问题在于, AI编故事的效率实在太高了。

以前靠人工编假新闻,一天也就编个一两条吧,而且多半还要基于对现实的了解。

但AI不需要。

只要给出对应的关键词,它 一天就能跑出几百几千条假新闻,情绪饱满,细节充实。

而它的精明之处在于,很多时候编造的不是那种纯粹的假新闻,而是掌握了真假参半的奥义,在真的故事背景以下,添加假的细节。

让人伪证起来也复杂得多。







请到「今天看啥」查看全文