经济学家何帆、洪灏对话：我们有可能对抗算法的偏见吗？

正文

请到「今天看啥」查看全文

洪灝

我用过几个不同的AI引擎，能感觉到它们对于信息的组织、搜索、整理，还有组织语言的能力已经远远超过了一个刚从业不久的研究助理。这个情况还是非常惊人的。

何帆： 所以这是个好事。你在使用的过程中有感觉到已经对你带来、或者你能设想到未来会对你带来什么不利的影响吗？比如会颠覆金融行业里的哪些工作或者是你现在正在做的工作中的哪些部分？

洪灝 ：我相信基础的研究基本上就可以用AI来代替。

何帆： 那还是一个赋能的作用，就是说会让研究做得更容易，研究人员的力量会变得更强大。

洪灝： 是的，我觉得 AI现在已经在改变金融界 。我们都知道有一些经营管理公司已经开发了AI的模型机器人，尤其是短期的交易。因为我是做宏观研究的，宏观研究有的时候看得比较长，比如说3年、5年，甚至更长时间。但是3年、5年这么一段时间你并不一定能够生存下来，短期的波动可以让你爆仓，可以导致投资者赎回，也导致很多意想不到的事情发生，比如你的预设可能正确的，你的方向正确的，但是没有活过这三年。

其实人工智能让我们这个行业发生很大的改变。在短期交易的时候，我们往往寻找市场各种各样的因子。比如 我们数据库里有几百甚至上千个因子，每天不断地回归分析，看哪个因子对于短期的回报和波动的决定性最强，然后根据这种相关性去做投资的决策 。如果用人脑，传统来说就是用人的眼睛、大脑去分析，他的能量所限，他的容量所限。

何帆： 那你在阅读这本书的时候有什么地方你会觉得不同意，或者你会觉得不舒服的地方？

洪灝： 因为作者是一个悲观主义者，所以他认为最终如果没有合理控制技术的话，那么它可能会变成我们人类的终结者。我其实没有那么悲观，或者说我并不认为这个问题是不能够解决的。简单地说，我们现在投入AI开发的资源很多，但是监管资源非常少。

何帆： 那你的乐观是从哪里来呢？是因为早晚我们会被迫需要投入更多的人力和财力？

洪灝： 我认为是这样，否则的话就是不可持续的。所以我认为这个问题还是有解的，它并不是无解。

何帆 ： 那接下来我也简单跟各位分享一下，这本书谈到的一些主要内容。

我们都知道赫拉利一直在写畅销书，从《人类简史》到《今日简史》。他的核心观点就是讲故事是很重要的，人其实特别擅长讲故事的。我们一直觉得人类社会是进步的，明天会比今天更好，但其实是不一定的。当我们进入农业社会的时候其实就比原来过得要惨。因为你以前在狩猎和采集的时候吃得更好，个子长得更高，工作时间还少，更加悠闲。进入到农业社会之后，不断有故事一环套一环地出现，市场的故事、国家的故事、民族的故事、文化的故事等等。

何帆

在赫拉利这本新书《智人之上》的第一部分，他还是在谈故事的逻辑， 更准确地说，他在谈信息。 过去我们都认为信息是为了求得真理和真相，但他说其实不是这样的， 信息还有一个很重要的功能就是要去讲故事，去重构一个现实，然后再把这些相关联的人构建成一个网络 。但现在出来了一个新型的而且力量特别强大的技术——人工智能。其实从计算机到互联网，再到人工智能，这些都是关联在一起的。

这些技术出来之后会改变原来的信息格局 。赫拉利在书里谈到，原来的信息格局主要是人和人之间的互相连接。人在信息的传递过程中起到中介的作用。但现在机器之间可以互相对话，有时候人无法理解机器在交流什么，因为它们用的语言跟我们的完全不一样。而且机器还不需要休息，思维方式不一样，整体更加强大。

《智人之上》里就举了这样一个例子，有一个研究人员让机器去玩类似赛车的赛船游戏，给机器的指示是分数最高你就赢得比赛。按道理说，赛船和赛车一样，参赛者就是和别的船赛速度，看谁跑得快。但是研究人员发现，机器在玩这个游戏的时候，不和别的船比赛，而是在码头进进出出。这时候研究人员发现了这个游戏中的漏洞。因为按照比赛的规则，参赛者只要靠近码头，就算加分。机器因此分析出：为了获得更高的分数，根本不需要和别的船比赛，只要在码头进进出出总分就会更高。

从这个例子里，我们就看到一个对齐的问题。也就是说，如果你想的和机器想的不一样，那当你让机器去执行一件事的时候， 它并没有按照你预设的方式去执行，你发现这不是你想要的结果，但是机器已经带来了破坏。

在《智人之上》中赫拉利就说到这样一个例子。哲学家尼克·波斯特洛姆曾经提出一个关于回形针的思想实验。当你要去做回形针，你的目标就是做回形针。但是如果你给机器下达这个指令，它可能会想到如果让人类灭绝，那资源就会更多，回形针就会做得更好。也就是说你 无法预测机器的思维方式和解决问题的方式会和人有哪些不一样，这其中可能会失控。

请到「今天看啥」查看全文