谷歌DeepMind CEO谈AGI愿景：十年内成为现实，因安全问题彻夜难眠

正文

请到「今天看啥」查看全文

哈萨比斯： 当然，最坏的情况在科幻作品中已有诸多描绘。我个人最为担忧的风险主要集中在两个方面。

首先，AI虽然是一项前景广阔的技术，但它具有典型的“双刃剑”特性，且能力将超乎想象。AI具有的特性意味着心怀不轨者可能将其用于危害性用途。我们面临的核心矛盾是如何在确保科研机构等善意使用者能利用AI攻克疑难疾病的同时，又能有效防范个人乃至敌对势力滥用这项技术。这个平衡难题极具挑战性。

其次，是AGI自身演进带来的风险。随着技术向自主化、智能体化方向发展（这将是未来几年的必然趋势），我们必须解决三大关键问题：如何维持人类对系统的掌控权，如何准确理解和预测AI的决策逻辑，以及如何建立牢不可破的安全防护机制使其不被具备自我优化能力的超级系统突破，这都是极其复杂的课题。

这两类风险犹如悬在头顶的达摩克利斯之剑。但若能妥善应对，人类终将迎来理想中的美好未来。

佩里戈：但这还不是最坏的情况，最坏的情形会是怎样的？

哈萨比斯： 我认为，AI技术失控可能会带来灾难性后果。若安全防护体系存在重大漏洞，这些系统可能被全面逆向利用。原本用于药物研发的AI模型，可能被恶意改造为生化武器设计工具。每个正向应用场景都可能被系统性转化为攻击性武器。

这解释了为何我始终强调建立全球治理框架，AI技术的研发无国界特性，决定了其影响必然突破地域限制，最终波及世界每个个体。

同时，未来构建全球技术治理AI体系需聚焦三大核心要素。首先要建立统一的系统架构安全标准来保证研发规范，同时，嵌入不可篡改的伦理目标约束机制来管理AI技术，最后形成跨国界部署的协同审查制度同一进行应用监管。

02 .

因AI安全问题难眠

呼吁构建全球治理框架应对挑战

佩里戈：AI安全学界正热议系统行为的风险特征维度，包括自主权力扩张倾向、欺骗性策略实施、系统性削弱人类决策权及突破控制框架等潜在可能。您对此类风险性质有怎样的研判：究竟属于必然发展路径，还是小概率事件？

哈萨比斯： 我的基本判断是这类风险仍处于不可测状态。学界对此存在严重分歧，我的同事中不乏图灵奖得主级别的权威专家，但对这类风险的预测也是各执一词。这种认知对立恰恰表明，真理往往存在于辩证认知中。

当我们深入观察技术发展史，控制系统的难度或许会随着系统进化呈指数级下降，现有技术轨迹已透露出这种可能性。实证数据表明，某些场景下的可控性已优于极端悲观预测模型。

但这绝不意味着可以放松警惕。我们亟需构建多维度风险评估体系，通过可控实验建立可靠的风险量化模型，在技术扩散前完成预防性治理框架设计。对于具有技术奇点级创新的领域，“被动响应”模式可能会带来灾难性后果，这正是我们坚持“预测性治理”原则的根本原因。

佩里戈：有什么事会让你彻夜难眠？

哈萨比斯： 对我来说，AI的安全本质上关乎构建全球治理框架的紧迫性，不仅需要国家间协同，更需形成技术治理共同体，特别是在接近AGI技术收敛的关键阶段。当前我们正处于技术奇点的突破前夜，时间窗口可能在5-10年区间内波动。部分前沿研究者的预测模型甚至指向更短周期。我不会感到惊讶，这就像一个概率分布。但无论如何，它很快就会到来。

而我不确定社会是否已经为此做好了充分准备。我们需要深入思考这一点，同时也要考虑我之前提到的那些问题，包括这些系统的可控性、对这些系统的访问权限以及确保一切顺利进行相关的问题。

佩里戈：你觉得自己更像是一名科学家，还是一名技术专家呢？你身处伦敦，离硅谷十分遥远。你对自己有着怎样的定位呢？

哈萨比斯： 我首先把自己定位为一名科学家。我这一生所做的一切，其根本原因都是为了追求知识，努力去理解我们周围的世界。我从小就对这件事痴迷。

对我而言，研发AI是我探索问题的一种方式，首先要打造出一个工具—这本身就相当引人入胜，而且它表明了关于智能、意识以及这些本身就堪称最大谜团的事物的某种观点。同时，这个工具能有双重用途，因为它也可以被用作研究你周围自然世界的工具，比如化学、物理和生物学领域。还有什么比这更激动人心的探索之旅和追求目标呢？

所以，我首先把自己看作是一名科学家，其次可能会觉得自己是个企业家，主要是因为这是实现目标最快捷的方式。最后，或许我还算是一名技术工程师，因为说到底，你不会只想在实验室里进行理论推导、思考问题。你实际上是希望能给这个世界带来实实在在的改变。

请到「今天看啥」查看全文