正文
从超级智能到未来之地
上一次读尼克·博斯特罗姆（Nick Bostrom）的书，还是他2014年的大作《超级智能：路线图、危险性与应对策略》（
Superintelligence: Paths, Dangers, Strategies
），帮助世界意识到人工智能的第一次大爆炸——深度学习的到来。彼时，人工智能的第二次大爆炸尚未发生（它为我们带来GPT-4这样的大语言模型），但博斯特罗姆提出的很多话题充满洞见，至今波荡不已。该书聚焦于人工智能发展出现问题可能带来的后果，特别在提高人们对人工智能带来的存在性风险的关注上，具有极其重要的影响。
在《超级智能》一书中，博斯特罗姆认为：“如果有一天我们发明了超越人类大脑的智能机器大脑，那么这种超级智能将会非常强大。并且，正如现在大猩猩的命运更多地取决于人类而不是它们自身一样，人类的命运将取决于超级智能机器。……一旦不友好的超级智能出现，它就会阻止我们将其替换或者更改其偏好设置，而我们的命运就因此被锁定了。”
所以，超级智能带来的挑战很可能是人类面对的最重要和最可怕的挑战。而且，不管我们成功还是失败，这大概都是我们将要面对的最后一个挑战。“我们要的不仅仅是娴熟的技术以引燃智能爆炸，我们还要能在更高水平上掌握控制权，以免我们在爆炸中身首异处。”
但是，假设我们能安全且合乎伦理地发展超级智能，并充分利用这种几乎具有魔力的技术，我们将会进入一个人类劳动变得过时的时代——这一未来社会，不仅是一个“后工作”和“后稀缺”的社会，还将催生一种“后工具性”境况：人类丧失了做任何事情的工具性理由，不再需要为任何实际目的付出努力；人实现了不朽，可以转变为数字形态，继续存在十亿年；而且，人类本性也变得完全可塑。
在此情况下，我们面临的挑战不仅仅是技术性的，更是哲学和精神层面的。如果技术解决了所有实际问题，那么我们还剩下什么可以追求的？如果生存和劳动不再是我们所关心的，什么会赋予我们生活的意义和目的？我们整天会做什么，又会体验到什么？
在他的最新著作《未来之地》（
Deep Utopia: Life and Meaning in a Solved World
，2024）中，转变了视角，探索了超级智能所带来的生活意义危机。博斯特罗姆预想的“存在之轻”读起来无比沉重：“随着我们向这种轻盈的状态迈进，摆脱了日常吸干我们时间和精力的挥汗如雨的辛勤劳作，我们可能开始感到一种疏远的无目的感，一种无根的‘存在之轻’。我们可能将要面对这样的发现：自由度最大的地方实际上是一片虚空。”
博斯特罗姆将此归纳为“深度乌托邦”（deep utopia）的问题，也即“在我们解决了所有现存的其他问题之后，我们将面临的问题”。这些问题具有永恒的心智吸引力，让我们走到了对目的和存在的理解的边缘。某种意义上，博斯特罗姆是在进行一种思想实验，将深度乌托邦的概念作为一种哲学粒子加速器，在其中创造一些极端条件，让不同的价值观发生撞击，从而使我们能够研究我们价值观的基本组成部分。
奇特的著作结构
在我们深入探讨博斯特罗姆的论点之前，读者应该意识到这本书与典型的哲学专著有两个不同的地方。首先，博斯特罗姆的书并未围绕一个核心论点展开系统论证，而是以一种开放的方式探索主题，尝试各种想法，并在一些关键问题上保持谨慎。其次，这本书采用了一种实验性的风格和结构。它由一系列虚构的讲座组成，这些讲座是博斯特罗姆想象自己年老时在一周的时间里所做的演讲（每一章以一周的某一天为标题）。幸运的是，这些讲座并不像陈旧的讲义——学生们经常插话提问，各种事件增添了戏剧性并注入幽默感。文本还包括讲座中分发的讲义和指定的阅读材料——这些阅读材料是博斯特罗姆专门为本书撰写的独立文学作品，常常是寓言性质的。所有这些内容的框架叙事来自三位哲学思维敏捷的朋友，他们闯入博斯特罗姆的讲座，并喜欢在讲座后一起去公共浴池放松。他们之间的犀利对话，包括对讲座和阅读材料的反应，贯穿了许多章节。
