图灵巨擘RL教父齐聚，机器人秀拳脚嗨翻全场！「悟界」首发引爆物理AGI

正文

请到「今天看啥」查看全文

左右滑动查看

Bengio教授说，如果我们最终创造出与人类竞争的AGI，那将是非常糟糕的。

我们该怎么办？

虽然AI的性能可能很强，Bengio教授表示，但我们可以确保它们没有不良意图，保证它们是诚实的。

Bengio教授现在的研究项目就在尝试构建只有智能而没有自我和目标的AI。

目的是让AI有用但不会威胁到我们，确保AI会遵循我们的道德指令。

他将其称之为「科学家AI」（Scientist AI）。

Bengio教授现场讲解了这种新的AI推理方法：通过构建类似数学证明的结构化假设图来提高推理能力。

AI不再只是模仿人类文本，而是通过分析这些陈述的逻辑一致性和概率来寻找解释，生成更可靠的结论。

最后，Bengio教授呼吁国家、企业之间要携手合作，共同应对AI的安全风险。

Richard Sutton

AI「体验时代」来临

这次大会，还请来了2024 ACM图灵奖得主Richard Sutton，爆火博文「苦涩的教训」原作大佬。

演讲中，Richard教授分享了自己对AI未来深刻洞见，正如演讲题目所言——

AI正从「人类数据时代」，迈入「体验时代」。

他指出，当前AI训练主要依赖于互联网上，人类生成的数据，如文本、图像，并通过人类微调来优化。

在「人类数据时代」，AI在模仿人类行为和预测人类意图方面，取得了巨大的成功，比如ChatGPT。

然而，这一策略正接近极限。高质量人类数据几乎被耗尽，而生成全新知识需要超越模仿，走向与世界的直接互动。

这时，「体验时代」成为AI发展的下一个阶段。

Richard Sutton强调，AI应像人类和动物一样，从第一人称的经验中学习。

无论是婴儿通过玩耍探索世界，还是足球运动员、动物在环境中学习决策， 这些经验数据全部来自与环境中的「实时互动」。

这种数据是动态的、不断增长的，能够随着AI能力提升不断改善，比如AlphaGo通过对弈下出了「第37步」、AlphaProof在数学奥赛中拿下大奖。

因此，Richard认为，未来的AI——智能体，需要通过与世界直接交互，去获取经验数据，从而实现真正的智能突破。

与悲观派Bengio不同的是，Richard大会直言，「我不担心安全，也不担心失业，超级智能体和超级智能能够增强人类的创造，这是世界转变和发展的一部分」。

而当下，人类已经进入使用强化学习的全新「体验时代」，要发挥AI超能力，还需要更好的深度学习算法。

π联创兼CEO

构建物理智能

接下来登场的，便是曾任谷歌大脑资深研究科学家兼机器人操控主管、现任Physical Intelligence联合创始人兼CEO的Karol Hausman。

他的演讲主题为「构建物理智能」。

要知道，早先的机器人一旦遇到环境上的变化，就会无法应对；但如今，机器人开始变得更加丝滑，能跳流畅的舞蹈，还能灵活应对非结构化的环境。

请到「今天看啥」查看全文