正文
在过去 30 年中，其他技术有着相似的模式。起初人们抱有巨大的期待，然后是巨大的失望，之后慢慢地对超出最初预期的结果产生了信心。这一模式在大规模计算、基因组测序、太阳能、风能，甚至是购物送货上门等方面都是如此。
在 20 世纪 60 年代，在 20 世纪 80 年代，AI 一次又一次地被高估。我相信，现在它又被高估了。但它的长期前景也可能被低估了。问题在于，长期是多长？后面的 6 个错误能帮我们解释，为什么对于 AI 的未来而言，时间尺度被严重低估了。
在我十几岁的时候，亚瑟·克拉克是科幻小说作家“三巨头”之一，其余两位是罗伯特·海因莱因和艾萨克·阿西莫夫。但是克拉克还是一位发明家、科学作家和未来主义者。在 1962 年到 1973 年之间，他发明了后来被称为克拉克三定律的三条格言：
如果一位年高德劭的科学家认为某事是可能的，那他几乎肯定是正确的；如果他认为某事是不可能的，那他很可能是错误的。
发现可能性的边界的唯一途径，就是跨越这一边界，进入到不可能的领域。
任何非常先进的技术，初看都与魔法无异。
从个人角度而言，我对克拉克三定律的第一定律的后半句持保留意见，因为我在有关 AI 将在多久时间内占据优势地位一事上比其他人更为保守。但是现在我要在克拉克第三定律上展开论述。
想象一下，我们有一台时光机可以把艾萨克·牛顿从 18 世纪晚期穿越到现在，并把他安顿在他熟悉的环境中：剑桥大学三一学院教堂。
现在给牛顿看一台苹果公司的产品。从你口袋中取出 iPhone，开机让屏幕亮起来并布满图标，把 iPhone 给牛顿。牛顿曾经利用菱镜将太阳光分解，揭示了白光是由不同颜色的光组成的，并将不同颜色的光又混合成了白光，但他毫无疑问地将对在黑暗教堂中能发出如此耀眼色彩的装置感到诧异。现在播放一部英国乡村场景的电影和一些他应该听过的教堂音乐。然后向他展示这个网页，网页中有他个人批注的 500 多页的皇皇巨著《自然哲学的数学原理》。教给他如何通过缩放手势来放大网页细节。
要留意那些有关未来技术是不是魔法的争论。
牛顿有可能解释这个小装置是如何实现这一切的吗？尽管他发明了微积分，还解释了光学和重力的原理，但是他却从未能正确区分炼金术和化学。所以我认为他会非常困惑，并且根本想不出这个设备的最基本的轮廓。对他而言，这和超自然的化身没什么不同。这个跟魔法是没办法区别的。同时要记住，牛顿可是那个年代相当聪明的人物。
如果某个事物是魔法，我们就很难知道它的边界。假设我们更进一步地给牛顿展示了这个装置如何照亮黑暗，如何照相、录像、录音，如何用作放大镜和镜子。然后我们向他展示，它可以用来以极高的速度和极高的精度进行算术计算。我们展示一下，牛顿拿着 iPhone 的时候，iPhone 记录了他的步数，继续向牛顿展示他可以用 iPhone 与世界任何地方的人们即时通话，就在教堂中即可。
牛顿可能会推测这个设备能做的其他事情是什么？用来分散太阳光的菱镜是永远有效的。他会不会推断 iPhone 可以一直用下去，忽略了自己没有理解它还需要充电？回想一下，我们把牛顿从迈克尔·法拉利出生前 100 年的时代抓回来了，所以他根本没有对于电力概念的科学理解。如果 iPhone 能在没有火的情况下产生光，那它也有可能会将铅变为金子吧？
这就是我们在猜想未来科技时遇到的问题。如果未来科技距离我们现有的目前能理解的科技足够遥远，那么我们就不知道未来科技的边界。如果未来科技与魔术无法区分，那人们说的有关未来科技的任何事情都将无法证伪。
这就是我与人们争论是否应当害怕广义人工智能（artificial general intelligence，缩写为 AGI ） 时常常遇到的问题。广义人工智能（AGI）指的是我们将建造出与人类一样运作的自主机器人。我被告知自己还没明白广义人工智能会有多么强大。这不是争论所在。我们对于广义人工智能是否存在都没有概念。我希望它是存在的——这一直都是我自己在机器人和 AI 领域工作的动力所在。但是现代广义人工智能（AGI）研究的进展十分不好，不论是在广义上还是在支持持续存在的独立个体上。广义人工智能（AGI）貌似主要受困于人工智能至少 50 年来一直存在的问题上，即推理和常识。我看到的所有证据都证明我们目前在如何建造广义人工智能方面毫无头绪。它的特性完全未知，所以在修辞上他就很快变成了魔法，强大而没有任何边界限制。
