详解 | Google第二代 TPU，既能推理又能训练，性能霸道

雷峰网 · 公众号 · 科技媒体 · 2017-05-18 14:33

正文

请到「今天看啥」查看全文

第一代 TPU 于去年发布，它被作为一种特定目的芯片而专为机器学习设计，并用在了 AlphaGo 的人工智能系统上，是其预测和决策等技术的基础。随后，Google 还将这一芯片用在了其服务的方方面面，比如每一次搜索都有用到 TPU 的计算能力，最近还用在了 Google 翻译、相册等软件背后的机器学习模型中。

今天凌晨，Google 宣布第二代的 TPU 系统已经全面投入使用，并且已经部署在了 Google Compute Engine 平台上。它可用于图像和语音识别，机器翻译和机器人等领域。

新的 TPU 包括了四个芯片，每秒可处理 180 万亿次浮点运算。Google 还找到一种方法，使用新的计算机网络将 64 个 TPU 组合到一起，升级为所谓的 TPU Pods ，可提供大约 11500 万亿次浮点运算能力。

强大的运算能力为 Google 提供了优于竞争对手的速度，和做实验的自由度。Google 表示，公司新的大型翻译模型如果在 32 块性能最好的 GPU 上训练，需要一整天的时间，而八分之一个 TPU Pod 就能在 6 个小时内完成同样的任务。之所以开发新芯片，部分也是因为 Google 的机器翻译模型太大，无法如想要的那么快进行训练。

除了速度， 第二代 TPU 最大的特色，是相比初代 TPU 它既可以用于训练神经网络，又可以用于推理。 初代的 TPU 只能做推理，要依靠 Google 云来实时收集数据并产生结果，而训练过程还需要额外的资源。