参考文件 · 2026
科学共识
关于AI风险
建造人工智能的人正在警告我们。以下是他们的原话以及身份。
“我认为人类只是智能进化中的一个过渡阶段，这是相当可以想象的。”Geoffrey Hinton 2024年诺贝尔物理学奖 · 2018年图灵奖
前副总裁兼工程研究员，Google · 2023
“面对推动AI加速部署却缺乏充分保障的强大力量，我对我们该如何让事情向好发展感到迷茫。”Yoshua Bengio 2024年诺贝尔物理学奖 · 2018年图灵奖
科学主任，Mila · 2023
“定义目标并让AI优化该目标的标准AI模型，可能会终结我们。”Stuart Russell 加州大学伯克利分校计算机科学教授
标准AI教材的合著者
“我越来越确信，无论AI安全是否可解、时间线如何，这个问题都可能是本世纪最重要的。”Ilya Sutskever OpenAI 联合创始人 · 首席科学家 2015-2024
现代深度学习的架构师之一
“我们正在构建人类历史上最具变革性且可能最危险的技术，却似乎无法按下暂停键。”Yoshua Bengio Nobel Laureate · Mila · 2023
"AI安全比气候变化更重要。"Geoffrey Hinton 诺贝尔奖得主 · 前 Google
全球平台声明，2024
专家警告不断升级的时间线
2014
Nick Bostrom 发表 超级智能, ，关于人工超级智能存在风险的首部严谨学术分析。牛津哲学家。被埃隆·马斯克和比尔·盖茨引用为必读书籍。
2018
辛顿、本吉奥和勒昆因创立现代深度学习获得图灵奖。此后三人均对他们创造的技术提出了安全担忧。
2023
人工智能安全中心发布灭绝风险声明，500多位科学家签名。未来生命研究所另行发布的暂停开发公开信，吸引了包括图灵奖得主在内的3.3万多人签署。
2024
Hinton和Bengio获得诺贝尔物理学奖。两人均利用全球平台明确放大AI安全警告。Hinton表示安全现在“比气候变化更重要”。