谷歌发145页报告：预测2030年出现AGI，称可能"永久毁灭人类"

正文

请到「今天看啥」查看全文

发展速率显示，我们可能在 2030 年前后开始遇到瓶颈。

AI 能力的连续性发展： 报告认为 AI 能力不太可能出现大的不连续跳跃，而是随着计算能力和研发投入的逐渐增加而稳步提升。

加速潜力： 随着 AI 系统能够自动化科学研究和开发，我们可能进入加速增长阶段，自动化研发使更多高效 AI 系统得以开发，从而引发正反馈循环。

AGI可能带来的极端风险

报告明确指出 AGI 可能带来 " 导致人类永久灭绝的生存风险 " ，这属于极端危害的范畴。报告将风险分为四大类：

1. 滥用风险

当人类故意使用 AI 系统造成伤害时，即构成滥用风险。例如， AI 系统可能帮助黑客对关键基础设施发动网络攻击。为了应对这种风险， DeepMind 提出了 Frontier Safety Framework (

请到「今天看啥」查看全文