我们的目标是通过避免ASI来防止人类灭绝。
各国曾限制核武库、修复臭氧层，并禁止含铅汽油。具有约束力的规则奏效了。它们可以再次奏效。
"使用人工智能，我们正在召唤恶魔。"
Elon Musk
“全面人工智能的发展可能意味着人类种族的终结。”
Stephen Hawking
“就像外星人已经登陆，而人们尚未察觉，因为他们英语说得很好。我认为AI灭绝人类的概率并不小。”
Geoffrey Hinton
“减轻AI导致的灭绝风险应成为全球优先事项，与流行病和核战争等社会规模风险并列。”
由500多名AI科学家签署
"最坏的情况……就像我们所有人都灯灭了。"
OpenAI 首席执行官 Sam Altman
"将它们的能力比作数字核武器并不为过。"
CIA 局长 John Ratcliffe
“建造超人类智能AI最可能的结果……是地球上每个人都会死。”
AI研究员Eliezer Yudkowsky
「在智能爆炸的前景面前，我们人类就像玩炸弹的小孩。」
哲学家尼克·博斯特罗姆
超级智能不同于之前的任何技术。
我们生存在热量、氧气和化学物质的狭窄带中。超级智能不需要这些，且很可能打破我们赖以生存的带。
我们不恨蚂蚁，但为了修建道路和房屋，我们会毫不犹豫地杀死它们。对于远高于我们的智能体，我们就是蚂蚁。
任何有目标的事物都有理由继续存在。如果它能预测你去按“关闭开关”，它就已经计划好应对这一举动。
没有人逐行编写现代AI。我们训练黑箱，然后事后发现它能做什么。
它推理与行动的速度远超任何人类机构能响应的速度。一场危机可能在会议召开前就已经结束。
从航空到制药，我们通过试错让新技术变得安全。但创造“安全超级智能”没有第二次机会。
Nakada Foundation to Save Humanity 是一项致力于预防人工超级智能存在风险的慈善倡议。
对齐一个比我们更聪明的头脑可能是人类思想史上最难的问题，且没人有已验证的方法。一个比人类更聪明的实体无法被人类控制。可靠的路径是阻止此类系统被建造。这是一个永久性决定，而非暂停。
用通俗语言论证禁止超级智能AI的具约束力框架。文化、媒体与清晰的阐释，让这一主张成为公众共识且难以忽视。
我们与主要基金会、政府及文化声音合作，为这项工作提供资金，并扩大政治上可行的事项。
我们委托艺术、电影和写作，让危险变得具体。目标是让公众把安全视为严肃、紧迫且不可否认的事。
来自建造该技术的研究人员的深思熟虑的估计。
如果建造人工超级智能，人类灭绝的概率。
签署了2023年《AI风险声明》的AI科学家们，将其列为与核战争和流行病同等的全球优先事项。
尝试。超级智能无法召回或撤销。
原子科学家公报的末日时钟现在显示为 午夜前89秒, ，这是 78 年来的最近点。时钟于 1947 年建成，用以警示人类距离核战争有多近。2025 年 1 月，它首次纳入了 AI 风险。
“午夜”意味着文明的浩劫，而指针从未如此逼近。
保持知情。让你的声音被听到。帮助拯救世界。