刘擎×许纪霖×黄竞欧｜每个人使用AI的方式，会决定我们未来的命运

正文

请到「今天看啥」查看全文

像赫拉利这样的文章，不仅是他，还有其他很多人揭示的底层算法，这有点像什么？像古代的戏剧，我们只在前台看到演员在演，现在有人一方面在给你演戏，一方面把后台怎么操纵的全部给你揭示出来。我认为现在的观众是可以，哪怕在这个信息时代，处在一个反思的立场。 只要你愿意，你可以抵达这个反思的立场，来开展自己的主体性行动。这就是这一类写作带给我们重大的启示。

许纪霖： 我看了赫拉利这一年多的很多访谈，他深刻表达出ChatGPT诞生以后，人工智能可能会给人类社会所带来的伤害。 所以在今天技术加速主义和对齐主义两大立场之间，他显然是对齐主义的 。

他不完全否认技术依然有必要发展，但他的立场是很鲜明的，我也是比较赞成这样的立场。用他的一个非常通俗的比喻，假如你在上一架飞机的时候，有一半的飞机设计者和工程师告诉你，飞机有10%的失事的危险，你还会上这架飞机吗？因为一旦发生了，这是人类付不起的代价。

华东师范大学 许纪霖教授

在这点上我是赞成赫拉利的，人工智能的发展怎么和人类文明对齐，因为这是人类文明第一次出现的这样一个人类的创造物，最终 有可能摆脱人类本身，它摆脱造物主，成为人类无法控制的一个新的物种，就是所谓的硅基生物 。硅基生物有没有可能以后会建立、形成一个对碳基生物的统治？

因为你想象一下，赫拉利讲的都是链接，这个链接过去讲的都是自然人、文明社会他们自身所建构的这套链接。但是当这样一个高级人工智能产生以后，无数台计算机之间可以产生无数的链接，不需要人就可以形成另外一个世界。这个世界一旦出现以后，我们是无法操控它的。

好几个人工智能的专家，都是做研发的，不是做理论研究的。他们对我说：“许老师，我到现在还没搞清楚，人工智能是怎么获得最后的结果的，它整个一套逻辑，我们是不清楚的。”也就是说它们自身所形成的一套逻辑，甚至它最后慢慢形成自己的一套算法，已经超越了我们的想象。这就像当年围棋Alpha Go，它可以下出这种漂亮的新的下法，我们过去想都想不到。

刘擎： Alpha Zero。Alpha Go是模仿大师的，Alpha Zero是自己搞的。

许纪霖： 对，这个是一个非常典范。在《智人之上》里面，赫拉利说 人工智能会形成一个硅幕，就是硅基生物最后建立了一条铁幕，这个铁幕把硅基生物和我们碳基生物隔离了，那个世界是我们无法理解的，甚至它具有自主性，它自己可以运作 。

自主性，这是真正让我们恐惧的地方。 如果它是它的世界，我是我的世界，那也就罢了，大家在一个平行世界里面。但是 很有可能出现硅基生物对我们人类世界的殖民化 。它可以释放出足以乱真的虚假信息，我们根本无法辨别。虽然我们的法律可以要求，凡是AI创造的，你必须打水印，必须注明，但是最后当它不再听我们指挥的时候，它释放给我们的信息不打水印，你何以辨别？这种殖民化，不是一个天方夜谭的故事，恐怕三、五年以后就成为一个现实。

我想说赫拉利的担忧不是杞人忧天，我是赞成赫拉利的立场——人本主义， 人本主义依然以人为本，这个人是自然人，并不是我们说的人创造的异类、异种生物 。就像过去《左传》《春秋》里面说的，“非我族类，其心必异”，这个族不是我们自然人所说的异族，而是一个完全和我们不一样的另类的物种，其心必异，你无法想象它在想什么，它是一套什么算法，它以后会干什么。

如果我们依然还有这样一种人本立场的话，我们不能凭一厢情愿我们以后就得和谐相处对吧？这个和谐相处建立在一个前提下，那就是我还在对你可控。我们可以给你一个指令，你必须和我和谐相处。当然我们希望它的本性为善，但是历史经验往往告诉我们，人性往往都是趋向于恶的，这个恶当然不是要作恶， 而是从欲望推动，这种欲望就是主宰力、控制力。 我甚至相信硅基生物也同样具有这样一种欲望，这种所谓控制、占有、主宰的欲望，那么你怎么来应对它？

所以从这个意义上来说，赫拉利的立场也是我非常赞同的立场，它的发展要向人类文明对齐。

人工智能时代

是否存在真实的亲密关系？

黄竞欧： 在赫拉利的这本书里面，他不仅从宏观层面去讨论人工智能时代给整个人类发展带来的挑战，他还从微观上注意到当计算机学会了使用人类的语言之后，能够通过跟人类沟通的方式来跟人类建立亲密关系，对个体所造成的影响。

首都师范大学讲师黄竞欧

在两位老师看来， 人跟人工智能或者跟计算机建立的这种亲密关系是真实的吗？ 而在现在日渐老龄化的社会里，它又是否有存在的必要性？

请到「今天看啥」查看全文