英伟达要把中国台湾打造成AI关键枢纽

正文

请到「今天看啥」查看全文

他明确表示：“我们不再只是芯片商。而是一家打造AI工厂的公司，而这些工厂将遍布全球，就像过去的电力网与互联网一样，成为每一个国家与产业的核心基础设施。”

黄仁勋将NVIDIA的转型总结为：“从芯片→网络→系统→软件→生态平台”的垂直整合之路。他强调，电网时代靠电力，网络时代靠数据，而AI工厂时代的核心资源，将是token。

AI工厂：重新定义数据中心与运算单位

“未来，每一家公司都是AI公司！”黄仁勋在演讲中强调，支持这一波AI基础设施升级的核心正是“AI工厂”的概念。

黄仁勋定义“AI工厂”为新一代数据中心，但不同于传统为ERP、WebServer所设计的数据中心，AI工厂的产出单位不再是交易量或储存空间，而是token——生成式AI模型的基本运作单位。未来企业将以token产出效能作为评估基础设施的依据，从电力规划、资本支出到营运策略，皆围绕‘token per hour’展开。

在这个架构下，运算能力不再只以单一GPU为单位衡量，而是整体异质运算架构的整合，从GPU (如最新Blackwell架构)、DPU (如BlueField-3)、高速互连(NVLink、InfiniBand)，以及包括CUDA、TensorRT、NIM、Omniverse等整个AI软件堆栈皆需缜密协同。

因此，NVIDIA所推动的并非单一组件的创新，而是整体系统工程的重构。如同黄仁勋介绍的最新Grace Blackwell GPU——采用双die设计、第二代Transformer Engine、FP8支持、8Tbps NVLink连接……每一项技术都将重新定义高效能运算(HPC)平台的设计逻辑。

软件定义硬件时代来临：CUDA与NIM为工程师新语言

在硬件架构之外，黄仁勋特别强调：“AI是由软件驱动的硬件革命。”他指出CUDA是整个NVIDIA平台的基石，而今年推出的NVIDIA Inference Microservices (NIM)架构，让AI推论模块能以容器化方式轻松部署至云端或on-prem环境，实现模型即服务(Model-as-a-Service)的新运作模式。

请到「今天看啥」查看全文