正文
如果你问自己：“当今世上最重要的编辑是谁？他们的名字是什么？”你会发现他们没有名字，因为它们是算法，它们是人工智能。
大型社交媒体平台的编辑，比如YouTube、Twitter或TikTok，已经不再是人，它们是人工智能。所以，人工智能已经开始从我们手中接管对信息网络的控制权。
李开复：
是的，我同意赫拉利教授的观点，人工智能将推动自己再次实现更大的飞跃。
在我的日常工作中，我已经使用人工智能代劳我所做的大部分事情。我认为，越来越多的人正在这样做，但是许多人认为人工智能只是一个聊天机器人，或是一个智能搜索引擎。这确实是当前的情况，但这仅仅是它的初步表现形式。
我们已经看到这样的落地场景，比如“给我一个答案”“与我对话”。它正在转变为我的助手，帮助我完成任务，而这将进一步发展为数字人劳动力接管某些人的部分或全部工作。随后，它将转变为接近自动化的状态——即人类给出指令
，人工智能作为智能体，能自由地创造信息、做出决策。最终这种全自动化的助手将成为代表公司或个人的智能体，去让我们做那些人工智能认为“你需要”的事情。
在某种意义上，TikTok给你推送一个视频，就是一个非常简单的例子。你并没有主动要求看那个视频，但它认为你会感兴趣。
如果将这种智能放大一百万倍，人工智能就能知道你想如何投资并替你进行投资。人工智能知道你妻子的生日快到了，就会帮你买礼物。
这些都是相对无害的例子，当然，还有许多可能带来潜在问题的例子。
2、从金融、医疗到军事，面临AI，我们还不知道该怎么做
赫拉利：
您是否认为我们很快就会看到人工智能在金融市场中做出重大决策？
比如人工智能投资者和人工智能制定新的投资策略甚至创造新的金融工具？
李开复：
是的，这在某种程度上已经发生了。
在美国、中国及其他国家和地区，许多人工智能量化基金已经取得了出色的回报。
这些基金基本上是由人工智能来做决策，人工智能每天会分析所有的交易数据和新闻，并决定最佳的股票购买时机，然后在没有人类指令的情况下买进和卖出。
人类提供的唯一信息是所有用于做决策的数据和目标，即在一定风险承受范围内达到最高收益，这已经成为现实。
如果我们审视人类的所有任务，投资可能是最具量化性的任务。因为几乎所有决策都是基于实时信息，人工智能能够更快地阅读、筛选可能性、进行组合交易，并且能够更快速地买进和卖出，还具备更强大的信息获取能力。
所以，当人们读到某位企业总裁的发言并考虑购买某只股票时，人工智能很可能已经抢先一步完成了交易。这已经成为现实。
赫拉利：
那么，这是否会像在其他特定领域发生的那样，比如围棋？
我们已经知道人工智能比任何人都更智能，甚至更有创造力。在金融领域是否也会发生类似的情况？
如果确实如此，那么当人类和人类政府失去了对金融系统的控制，这对社会乃至政治意味着什么？也许他们再也无法理解金融系统及主要的金融决策。
所以，你仍然会有作为这个体系的官方领导的人类总统、总理和银行家，但他们不再能够理解这个世界的一个重要组成部分——金融系统，也不再能够对其进行监管或做出决策。
李开复：
是的，我认为几乎每个职业都有这种风险。在金融领域，我提到的AI获取信息的速度和广度是人类无法企及的。
有一些方面例外，比如，如果你是一名风险投资人，你可能依赖于直觉判断一个人的微表情真诚与否等；而在企业重组和并购中，你需要深入了解不同人格并进行更深层次的解读。
但是，
除了人与人之间的互动之外，在所有基于信息的方面上，我们都无法胜过人工智能。
另一个我经常提到的职业，虽然对人工智能来说更加困难，但最终我们也会聊到，就是医疗行业。
因为
，人工智能医生将比普通医生更优秀。
医生将把人工智能作为一个可能的参考，然后，
随着人工智能不断进步，医生会失去自信，更加信任人工智能，最终变成一个“橡皮图章”。
尽管我们将责任和医疗失误的后果归咎于医生，但当医生看到人工智能进步的速度时，最终不可避免地会感到人类在这方面远不如人工智能准确。
那时，医生将只是盖章担保决策逐步转向由人工智能做出决策。尽管我们最初出于滑坡效应的考虑所设定的原则是，所有决策必须由医生做出，但人工智能进步得更快，相较之下，人们可能会感到自己的智慧黯然失色。
赫拉利：
我们已经在军事领域看到了这种滑坡效应。
我一直在密切关注人工智能的使用，在科幻小说和好莱坞电影中，我们习惯性地预期战争中的人工智能会以杀手机器人的形象出现，成为实际开火和战斗的士兵。但这种情况尚未发生，相反，
人工智能正在从士兵的上级环节决策过程中进入军事领域——即关于目标选择的关键决策，决定轰炸和射击的目标。
因为选择军事目标需要非常迅速地分析大量信息，所以
人工智能将目标选取过程加速了几个量级。
但这当然也引发了一个非常大的伦理问题，如果军方使用的人工智能告诉你某栋建筑是恐怖组织的总部或者是敌方的指挥部，你是直接相信人工智能并下令轰炸，还是先由人类来验证这一信息的准确性？
也许人工智能会出错，也许那只是个平民住宅；也许那里确实有敌军总部，但同时也有平民，他们可能会受到伤害。那么，你该如何选择？
