主要观点总结
黄仁勋与沈向洋就英伟达、AI技术、领导力等话题展开对话，黄仁勋分享了自己对AI未来的看法，以及英伟达在AI领域的发展和创新。两人还讨论了领导力、团队合作、能源消耗、物理智能实体等问题。
关键观点总结
关键观点1: 对话背景
黄仁勋接受沈向洋的采访，分享自己在AI领域的经验和看法，讨论英伟达的发展和创新。
关键观点2: AI技术的未来发展
黄仁勋认为AI技术将继续飞速发展，神经网络的规模将越来越大，计算需求也将不断增长。他强调了AI在模拟人类思维方面的潜力，并认为AI将成为未来数字世界的重要组成部分。
关键观点3: 英伟达在AI领域的角色
黄仁勋介绍了英伟达在AI领域的地位和作用，强调了公司在推动AI技术发展和应用方面的贡献。他表示英伟达将继续致力于推动AI技术的发展和创新。
关键观点4: 领导力与团队合作
黄仁勋分享了自己的领导经验和团队建设理念，强调了自信和拥抱不确定性、透明度和合作的重要性。他还谈到了与香港科技大学的合作和未来的机遇。
关键观点5: 能源消耗与物理智能实体
黄仁勋谈到了GPU能源消耗的问题，并表达了对可持续发展的关注。他还讨论了物理智能实体的趋势和潜力，包括机器人在各个领域的应用和发展前景。
正文
从消费端观察，大语言模型在过去12年里的计算需求每年都以四倍以上的速度激增。若以此速度持续10年，计算需求的增长将是一个惊人的数字——高达100万倍。这也正是我向他人阐释英伟达股价在过去10年间上涨300倍原因时的重要论据。考虑到计算需求的这一巨大增长，英伟达的股价或许并不显得高昂。那么，当你运用你的“水晶球”预测未来时，你认为在接下来的10年里，我们是否还会见证计算需求再次实现100万倍的增长呢？
黄仁勋：
摩尔定律依赖于两个核心概念：一是超大规模集成电路（VLSI）的设计原理，它是受到我、加州理工大学的卡弗·米德教授（Carver Mead）以及林恩·康威教授 (Lynn Conway )的著作启发的，这些著作激励了整整一代人；二是随着晶体管尺寸的不断缩小，我们得以每隔一段时间就将半导体的性能提升一倍，大约每一年半就能实现一次性能翻倍，因此每五年性能提升可达10倍，每十年更是能提升100倍。
我们正身处一个趋势之中：神经网络的规模越大，用于训练的数据量越多，AI似乎就表现得越智能。这一经验法则与摩尔定律有着异曲同工之妙，我们不妨称之为“规模定律（Scaling Law）”，且这一定律似乎仍在持续发挥作用。然而，我们也清醒地认识到，仅仅依靠预训练——即利用全球范围内的海量数据自动挖掘知识——是远远不够的。正如大学毕业是一个至关重要的里程碑，但它绝不是终点。接下来，还有后训练阶段，也就是深入钻研某一特定技能，这要求强化学习、人类反馈、AI反馈、合成数据生成以及多路径学习等多种技巧的综合运用。简而言之，后训练就是选定一个特定领域，并致力于对其进行深度钻研。这就像当我们步入职业生涯后，会进行大量的专业学习和实践。
而在这之后，我们最终会迎来所谓的“思考”阶段，也就是所谓的测试时间计算。有些事情你一眼就能看出答案，而有些则需要我们将其拆解成多个步骤，并从第一性原理出发，逐一寻找解决方案。这可能需要我们进行多次迭代，模拟各种可能的结果，因为并非所有答案都是可预测的。因此，我们称之为思考，且思考的时间越长，答案的质量往往越高。而大量的计算资源将助力我们产出更高质量的答案。
虽然今天的答案已是我们所能提供的最佳结果，但我们仍在寻求一个临界点，即所得到的答案不再局限于我们当前所能提供的最佳水平。在这一点上，你需要判断答案是否真实可靠、是否有意义且明智。我们必须达到这样一个境界，即所得到的答案在很大程度上是值得信赖的。我认为，这还需要数年的时间才能实现。
与此同时，我们仍需不断提升计算能力。正如你之前所提到的，过去十年里，我们将计算性能提升了100万倍。而英伟达的贡献在于，我们将计算的边际成本降低了同样的幅度。想象一下，如果生活中有你所依赖的事物，如电力或其他任何选择，当它的成本降低了100万倍时，你的行为习惯将会发生根本性的变化。
对于计算，我们的看法也已经发生了翻天覆地的变化，而这正是英伟达有史以来最伟大的成就之一。我们利用机器去学习海量的数据，这是研究人员无法单独完成的任务，而这正是机器学习能够取得成功的关键所在。
沈向洋：
我迫切希望听听你的看法，香港在当前机遇中应如何作为。现在，一个特别令人兴奋的事情是“AI for Science”，而你对此一直抱有极大的热情。香港科技大学已经投入了大量的计算基础设施和GPU资源，我们特别重视推动各院系之间的合作，如物理与计算机科学、材料科学与计算机科学、生物学与计算机科学等领域的交叉融合。你之前也深入探讨了生物学的未来。另外，值得一提的是，香港政府已决定建立第三所医学院，而香港科技大学是首个提交这个提案的高校。那么，对于校长、我本人以及整个大学而言，你有什么建议？
黄仁勋：
首先，我在2018年的超算大会上曾介绍过人工智能，但当时遭遇了诸多质疑。原因在于，那时的人工智能更像是一个“黑箱”。诚然，时至今日，它依然在一定程度上保持着“黑箱”的特性，但已比过去更加透明。
比如，你我皆为“黑箱”，但现在我们可以向AI发问：“你为何提出这样的建议？”或者“请逐步阐述你得出这一结论的过程。”通过此类提问，AI正变得愈发透明和易于解释。因为我们可以借助问题来探究其思考过程，正如教授们通过提问来洞察学生的思考过程一样。重要的不仅仅是获取答案，更在于答案的合理性以及是否基于第一性原理。这在2018年是无法做到的。
其次，AI目前尚未能从第一性原理中直接得出答案，它是通过观察数据来学习和得出结论的。因此，它并非模拟第一性原理的求解器，而是在模仿智能、模仿物理。那么，这种模仿对科学而言是否有价值呢？我认为，其价值无可估量。因为在众多科学领域，我们虽然理解第一性原理，如薛定谔方程、麦克斯韦方程等，但面对大型系统时，我们却难以模拟和理解。因此，我们无法仅凭第一性原理进行求解，这在计算上存在局限，甚至是不可能的。然而，我们可以利用AI，训练它理解这些物理原理，并借助其模拟大型系统，从而帮助我们理解这些系统。
那么，这种应用具体在哪些方面能够发挥作用呢？首先，人体生物学的尺度从纳米级开始，时间尺度则跨越纳秒至年。在如此宽广的尺度和时间跨度上，使用传统求解器是根本无法实现的。现在的问题是，我们能否利用AI来模拟人体生物学，以便更深入地理解这些极其复杂的多尺度系统？
这样，我们或许可以称之为创建了一个人体生物学的数字孪生体。这正是我们寄予厚望之处。如今，我们或许已拥有了计算机科学技术，使数字生物学家、气候科学家以及处理异常庞大复杂问题的科学家们能够首次真正理解物理系统。这是我的期望，希望在这一交叉领域能够实现这一愿景。
提及你们的医学院项目，对于香港科技大学而言，一所与众不同的医学院即将在这里诞生，尽管这所大学的传统专业领域是技术、计算机科学和人工智能。这与世界上绝大多数医学院截然不同，它们大多是在成为医学院后，再尝试引入人工智能和技术，而这通常会面临人们对其技术的怀疑和不信任。然而，你们却有机会从头开始，创建一个从一开始就与技术紧密相连的机构，并在这里推动技术的不断发展。这里的人们深知技术的局限性与潜力。我认为，这是一个千载难逢的机遇，希望你们能够紧紧抓住。
沈向洋：
我们当然会采纳你的建议。香港科技大学一直以来在技术和创新方面有着卓越的表现，不断推动计算机科学、工程、生物学等领域的前沿发展。因此，作为香港第三所医学院，我们坚信自己能够走出一条与众不同的道路，将传统的医学培训与我们在技术研究方面的优势相结合。我确信，未来我们还会向你寻求更多的建议。不过，我想稍微改变一下话题，谈谈领导力。你是硅谷任期最长的CEO之一，可能已经远超其他人，担任英伟达CEO的时间已经长达30年或31年之久了吧？
黄仁勋：
差不多32年了！
沈向洋：
但你似乎从未感到疲倦。
黄仁勋：
不，我其实感到非常累。今天早上到这里的时候，我还说超级累。
沈向洋：
但你依然在不断前行。因此，我们当然想从你身上学到一些领导大型组织的经验。你是如何领导英伟达这样一个庞大组织的？它拥有数万名员工、惊人的收入和大量的客户，覆盖面极广。你是如何做到以如此惊人的效率领导这样一个大型组织的？
黄仁勋：
今天我想说，我感到非常惊讶。通常情况下，你只会看到计算生物学家或者商科学生，但今天我们看到的计算生物学家同时也是商科学生，这真是太棒了。我从未上过任何商业课程，也从未写过商业计划书，我完全不知道如何下手。我依赖于你们所有人来给予我帮助。
我要告诉你们的是，首先你们要尽可能多地去学习，而我也一直在不断学习。其次，关于你们想全身心投入并视为一生事业的任何事情，最重要的是热爱。
将你所做的任何事情都视为你毕生的事业，而不是你的工作，我认为这种思维方式会在你的心中产生很大的不同。英伟达就是我的事业。
