澄清 · 2026
保留AI。阻止超级智能。
阻止继任心智与阻止人工智能不是一回事。大多数人想要的好处并不需要ASI。
窄AI · 各司其职的工具
继续构建
为有界任务训练的系统。没有开放式议程。没有复制到每个网络的驱动。
- 医学成像与药物发现
- 天气、电网和工业模型
- 编程助手与生产力软件
- 用于固定、受监督任务的机器人技术
超级智能 · 取代我们的心智
不要构建
一个同时在科学、战略、说服和工程领域超越人类技能的系统，能够自我改进并追求我们可能未曾设想的goals。
- 开放式自主代理
- 通向通用性的递归自我改进
- 训练运行超过已验证的能力阈值
- 无人能可靠关闭的系统
人们所说的好处大多是狭隘的
新药、更廉价的清洁能源、更好的预测、更安全的工厂。这些都是工具问题。它们不需要一个能自行设定子目标并在谈判中胜过监督者的通用智能体。
支持AI作为工具。反对我们无法控制的心智ASI。
为何这一区分能赢得联盟。
nakadafoundation.org/blog/future-without-superintelligence/