五分钟解释

用你自己的话说出这些要点。时长仅供参考,不是秒表。别用术语。

1
~45岁

打开面向建造者,而非头条

“构建现代AI的人正在发出警告。Geoffrey Hinton离开Google以便自由发声。Yoshua Bengio称这是人类历史上最具变革性且可能最危险的技术之一。当发明者拉响警报时,我会倾听。”

2
~45岁

命名事物

“我指的是超级智能:一个在几乎所有方面都优于人类、速度更快且能自我改进的系统。主要实验室表示正在瞄准这一目标。我想要有用的AI工具,而不想要一个我们无法关闭的后继心智。”

3
~60岁

为什么“直接拔掉电源”行不通

“任何追求目标的系统都有理由继续存在并获取资源。一个能超越我们规划的系统会把关机开关视为要解决的问题。我们不需要它恨我们,只需要它既能干又目标偏离。”

4
~45岁

放弃中国路线

“一场失控的竞赛没有赢家。北京也会在同一场火中毁灭。这就是为什么相互、可核查的限制才是安全之举,就像敌对国家之间的核限制一样。”

5
~60岁

立足于能动性

“我们已通过核查禁止化学武器、限制核武器。我们可以用同样的方式禁止超级智能,同时保留普通AI。分享此文。致电你的代表。政治窗口已打开,现在正是时候。”

如果他们反驳: 不要争论每条旁路。指引他们到迷思页面和一份PDF。以具体的下一步结束,而非总结。实践包:nakadafoundation.org/resources/