霍金：即使人工智能终结人类人类也别无选择

向毅海外投资 · 公众号 · 科技投资 · 2017-04-27 23:59

正文

之前提到的公开信也是由这个组织起草的。这个公开信号召展开可以阻止潜在问题的直接研究，同时也收获人工智能带给我们的潜在利益，同时致力于让人工智能的研发人员更关注人工智能安全。

对于决策者和普通大众来说，这封公开信内容翔实，并非危言耸听。人人都知道人工智能，我们认为这一点非常重要。比如，人工智能具有根除疾患和贫困的潜力，但是研究人员必须能够保证创造出可控的人工智能。

那封只有四段文字，题目为《应优先研究强大而有益的人工智能》的公开信，在其附带的十二页文件中对研究的优先次序作了详细的安排。

在过去的20年或更长时间里，人工智能一直专注于建设智能代理所产生的问题，即：在特定环境下可以感知并行动的各种系统。

智能是一个与统计学和经济学相关的理性概念。通俗地讲，这是一种能做出好的决定、计划和推论的能力。基于这些工作，大量的整合和交叉孕育被应用在人工智能、机器学习、统计学、控制论、神经科学以及其它领域。

共享理论框架的建立，结合数据的供应和处理能力，在各种细分的领域取得了显著的成功。

例如语音识别、图像分类、自动驾驶、机器翻译、步态运动和问答系统。

随着这些领域的发展，从实验室研究到有经济价值的技术形成了良性循环。哪怕很小的性能改进，都会带来巨大的经济效益，进而鼓励更长期、更伟大的投入和研究。目前人们广泛认同，人工智能的研究正在稳步发展，而它对社会的影响很可能还在扩大。

潜在的好处是巨大的，甚至文明所产生的一切，都可能是人类智能的产物。但我们无法预测我们会取得什么成果，这种成果可能是被人工智能工具放大过的。

正如我说的，根除疾病和贫穷并不是完全不可能，由于人工智能的巨大潜力，研究如何（从人工智能）获益并规避风险是非常重要的。

从短期和长期看人工智能

现在，关于人工智能的研究正在迅速发展，这一研究可以从短期和长期来分别讨论。

短期担忧:

1.无人驾驶。

从民用无人机到自主驾驶汽车。在紧急情况下，一辆无人驾驶汽车不得不在小风险的大事故和大概率的小事故之间进行选择。

2.致命性智能自主武器。

它们是否该被禁止？如果是，那么“自主”该如何精确定义。如果不是，任何使用不当和故障的过失应该如何被问责。

3.隐私的担忧。

由于人工智能逐渐开始解读大量监控数据，会造成隐私上的担忧，以及如何管理因人工智能取代工作岗位带来的经济影响。

长期担忧主要是人工智能系统失控的潜在风险。

随着不遵循人类意愿行事的超级智能的崛起，强大的系统可能会威胁到人类发展。这种错位是否会发生？如果会，那些情况是如何出现的？我们应该投入什么样的研究，以便更好的理解和解决危险的超级智能崛起的可能性，或智能爆发的出现？

当前控制人工智能技术的工具，例如强化学习，简单实用的功能，还不足以解决这系统失控的问题。因此，我们需要进一步研究来找到和确认一个可靠的解决办法来掌控这一问题。

近来的里程碑，比如之前提到的自主驾驶汽车，以及人工智能赢得围棋比赛，都是未来趋势的迹象，巨大的投入倾注到这项科技。我们目前所取得的成就，和未来几十年后可能取得的成就相比必然相形见绌。

而且我们远不能预测我们能取得什么成就。当我们的头脑被人工智能放大以后，也许在这种新技术革命的辅助下，我们可以解决一些工业化对自然界造成的损害。关乎到我们生活的各个方面都即将被改变。