AI未来发展的三种模式 | CCF-GAIR人工智能前沿专场随笔

数据派THU · 公众号 · 大数据 · 2017-07-16 19:00

正文

请到「今天看啥」查看全文

大数据？

图像识别领域有一个数据集叫CIFAR-10，这是一个不大不小的数据集，只有10类，每类6000张32x32像素的图片。很难说CIFAR是一个大数据，但是深度学习在这样一个数据集上依然能够做的很好。时至今日，依然有很多研究人员在这个数据集上做深度学习的研究，并取得了很好的进展。那么大数据是不是深度学习的必要条件？可能不一定是。

计算力的提升？

从搜索引擎时代就已经开始集群计算、计算云的构建。当时大公司的计算力就已经相当可观，但是为什么在搜索引擎时代没有发生人工智能的复兴呢。

算法大改进？

如果再比较一下算法的进展，比较一下今天主要运用的算法和90年代所运用的算法，会发现不管是网络结构、优化策略、基础理论上其实都没有太大的变化。

那么到底是什么带来了人工智能的复兴？

计算方式的变革——从冯诺伊曼计算机体系结构到神经网络计算的变革。

冯诺伊曼计算体系将CPU与内存分开，导致所谓的冯·诺伊曼瓶颈。那么如何突破这样的瓶颈呢？人类再一次借助仿生学的力量，人脑是一个非常优秀的并行计算系统。

神经网络计算中，包含三个非常重要的元素：激活函数、非线性单元和权重矩阵。通过这三个元素完成数据流的计算，而且在内存和处理器之前存在非常高的带宽。这样的计算方式整合了学习和推理能力，并且整个计算过程并不需要非常复杂的指令，只需要简单的向量和矩阵乘法就可以完成。 正是这种计算方式的变革推动了人工智能的复兴。