正文
CUDA是
英伟达
利用GPU平台进行通用并行计算的一种架构,
简单的说,就是普通程序员可以利用C语言、C++等为CUDA架构编写程序在GPU平台上进行大规模并行计算,
就是让普通程序员也能用上核武器
。
CUDA的诞生为英伟达进军人工智能埋下伏笔。
高性能并行计算
随着CUDA的发展和GPU可编程性的增强,利用GPU完成通用计算的受到高度重视,即将GPU用于通用计算,这就形成了CPU+GPU的异构模式。
2007年英伟达推出专为高性能计算而设计的Tesla
GPU,此后很多年,在高性能并行计算领域,无人可与
英伟达
匹敌,Intel和AMD都被虐成渣。
2010年11月的全球最快超级计算机的前五强计算机中,有三台均采用NVIDIA
Tesla GPU。而在2012年11月至2013年6月是世界上最快的超级电脑泰坦也是使用了18,688颗NVIDIA
Tesla芯片
。
CUDA和GPGPU计算被广泛应用于金融交易、生物医疗、地理信息系统、天气预报、国防等需要高性能计算的领域,而NVIDIA
Tesla GPU也占据了70%的GPU市场。
AI狂人
那么老黄作为显卡疯子怎么又转型成了“AI狂人”了呢?
这得益于深度学习的发展。
深度学习神经网络尤其是几百上千层的神经网络需对高性能计算需求非常高,GPU对处理复杂运算拥有天然的优势:它有出色的
并行矩阵计算能力
,对于神经网络的训练和分类都可以提供显著的加速效果。
所以搭载GPU的超级计算机已经成为训练各种深度神经网络的不二选择,比如谷歌大脑早期就是使用英伟达的GPU做深度学习。
世界上目前约有3000多家AI初创公司,大部分都采用了
英伟达
提供的硬件平台。Andreessen
Horowitz风投公司的合伙人马克·安德森也曾表示,他们已经投资了大批基于深度学习的创业公司,几乎每个公司都在采用
英伟达
平台。
而乘着深度学习这股东风,英伟达股价在过去的12个月上涨近200%,在过去5年上涨超过500%。
而反过来,GPU的发展使得计算能力的增加,也促进了深度学习的发展。
无人车
在今年的CES上,黄仁勋发表了主旨演讲,吸引了全世界的目光。
(还是同一件黑夹克)