所谓深度学习是一种算法。这种算法从刚一产生就和经济学的决策理论紧密联系在一起。首先,设计者要为人工智能或者机器人规定其目标,在经济学和人工智能里都称之为目标函数,也就是机器人要干什么,“活”在世上图什么。从分析的角度看,在追求其自身的“目标”方面,机器人与经济学家讨论的自然人的行为相似,都是在一系列约束条件下,寻找并执行达到其目标最大化的途径。
为了认清人工智能,我们必须区分人的智能和人工智能。我们必须清楚地知道,关于人的智能,经济学家对此的认识极其有限。这本身就决定人工智能的界限。经济学家可以把人的目标抽象地写成某个函数,但并不真的知道人的真实具体目标是什么,什么因素影响其目标。
比如,人的目标是为了愉快或者满意。但是否满意,多么满意,什么因素影响了满意的程度,这些只有每个人自己知道,经济学家不知道,任何计划者也不知道。因此,对于经济问题,人们通过市场可以找到使自己满意的安排。相反,在没有市场的计划经济里,由于无法得知人们的基本信息,也就无法设计出使人们满意的结果。
因此,哈耶克的推理完全没有过时。对于任何能运作的机器人,设计者必须确切规定机器人的目标。表面上看人们对机器人的目标知道得很确切,实际上,这个“知道得很确切”本身就意味着机器人与自然人的基本差距。
此外,人的智能产生于人的生理和心理感知,以及人收集的信息。早在20世纪50年代,赫伯特·西蒙教授在讨论人工智能时,就提出了“识别”这个概念,它是今天人工智能的核心。早在那个时代,人们就已经把识别区分为“冷识别”和“热识别”,并有过激烈的辩论。
所谓“冷识别”就是机器能够识别的,而所谓“热识别”是人带着感情的识别,是机器学不来的。另一对相关的基本概念是硬数据和软数据。所有可度量可传递的数据就是硬数据。和硬数据对立的是软数据,即无法用机器度量、无法传递的数据。当我们讨论人工智能是基于大数据训练出来的时候,必须要知道存在热识别问题和软数据问题。
另一个问题是,人的智能里有一个基本部分——直觉。直觉是基于人对硬数据和软数据、冷识别和热识别的综合,以及经济学家无法确切描述的目标而产生出来的一种高度抽象的、非逻辑的理解。它依赖的数据不但不可度量、不可传递,而且如爱因斯坦所述,直觉本身是无法描述的。
可见,人的智能和人工智能之间有一道鸿沟:人工智能的基础是人造的确切目标,依赖的是可度量、可描述、可传递的数据。但生物科学告诉我们,有一系列的人的生理感知是无法度量的,比如嗅觉、味觉、性欲,等等。在没有数据的领域,人工智能的界限清楚可见。
下面让我举一个简单的例子,嗅觉。酒是一个大产业,好的品酒师很贵。而且,可靠的品酒需要请一群品酒师。为什么?因为我们无法度量每个人的舌头对酒的感觉是什么。生物科学的原理告诉我们,嗅觉无法度量,即传感器做不出来。跟嗅觉的道理相似,气味也是无法度量的,也无法制造气味的传感器。此外,人的最基本欲望之一——性欲,在科学上,其程度也是不可度量的。
所以,科学决定了人工智能或机器人只能是没有嗅觉、味觉,没有性欲的,也就是说,一定没有人的最基本的欲望和最基本的感觉。
除了上述的一部分直接的生理内容,还有大量的心理感觉,它们更复杂,而且都不能度量,比如喜爱、喜悦、厌烦、痛苦、抑郁、贪婪、野心,从好到坏,从有趣到无趣,等等。在生理和心理内容不能度量的情况下,机器人只能通过收集的数据,在某些方面模仿或推测人在一定场景下的偏好,这与人的真实偏好存在质的差别。
如上所述,在无法靠度量得到人类偏好的原始数据时,对人工智能的社会训练通常使用的方法是借助文字刻画某些方面的数据的内容,或者观察某个行为,比如把人们在各种情况下的行为录下来,然后用机器识别各种各样的人类行为。运用这样的方法,今天我们看到,在一些具体领域里,机器人呈现出令人吃惊的模仿和推测能力。但是这些“学习”来的模仿和推测是有局限的、静态的,学习的是过去。只要场景变化,这些模仿和推测都会失效。
总之,深度学习最终很难涉及人类智能的原始基本要素,因为人类大量的基本感知无法度量。而没有这些基本感知,机器就不可能通过学习产生和人相似的感觉。到目前为止,设计任何人工智能的机器设备或者机器人,第一重要的是它的目的是什么。由于上述原因,机器人的目的无法通过深度学习获得,而只能由设计它的人分配给它。这个目的在技术上被称为目标函数。
换言之,迄今为止机器人只能是由设计者为它设置有限范围的目标函数,而设置的目标函数必须定义很窄,而且限于短期和静态。经济学和社会科学告诉我们,人们在科学上无法确切描述人的普遍目标。因为人类无法确知面对不同事情不同场景时的目标变化。
于是,人们无法为机器规定普遍的目标函数。同时,因为机器人没有人的基本感知。于是,人们也无法指导人工智能,通过学习产生与人相似的普遍的目标函数。总之,设计者分配给机器的目标函数不是人的普遍目标,也不能代替人的目标函数。人们可能会以为,人工智能或机器人可以读报纸,读杂志,读手机上的微信,并据此进行推测。但是,大数据和人工智能能够达到的水平是受到其依赖的科学原理限制的。哪怕是在一个完全自由、开放、安全的社会里,人类的文字表达和语言表达也只是人类复杂的方方面面感觉的一个部分。从文字、语言、图像的大数据里推断出来的内容,是片面的,有歧义的,依赖于特定场景的。
人工智能创始人、诺贝尔经济学奖得主西蒙当年提出了“有限理性”这个概念。这是至今影响经济学发展的最基本概念之一。“有限理性”承认人的认识和推理的片面性、不完备性,甚至自相矛盾。有限理性决定了机器人执行人分配给它的目标函数,不可能比自然人做得更好。
总之,由于感知的不可度量性,我们没有办法训练机器人本身产生它自身的偏好或动态的目标函数。同时由于有限理性,我们也无法为机器设定普遍的目标函数。所以,深度学习的人工智能只限于模仿人在已知环境(场景)里的行为。因为它赖以学习的是已知环境中收集的数据,一旦脱离了训练它的环境,没有原始动力的人工智能就丧失了基本能力。