ASI 素养测验

普通AI问题确实存在。但那不是我们的使命。基金会旨在阻止ASI：那些在所有重要领域都超越人类的系统。

控制的前提是我们始终是更聪明的一方。越过那条线后，关机开关、规则集或实验室政策都可能被系统绕过。

一个在实验室宣称已解决控制问题后即失效的暂停，只会让竞赛重启。我们的诉求是对构建超级智能的永久禁令。

对建造决定的权力是真实的。对运行中的超级智能的权力是人们自欺欺人的故事，以便项目继续。

中国不是良性行为者。它也不是没有规则的空白地带。将“中国不会停止”作为冲刺的理由，是对文明赌注的薄弱前提。

对齐工作可以描述控制如何失败。这很有用。但它并不许可构建该工作声称我们无法控制的系统。

它是灾难主观概率的简写。命名该数字迫使做出明确主张，而非模糊的风险姿态。

一个能被关机、断算力或切断工具的系统，几乎在所有目标上都更弱。追求权力是能力带来的结果，而非卡通式的统治欲。

基金会支持保持工具属性的窄 AI。禁止的是那些会超越我们的系统，而不是帮助个人完成工作的软件。

IAEA 的现场视察和物资核算，是敌对国家验证危险发展限制的常规先例。

密封实验室假设我们仍是更聪明的一方，且没人会打开门。一旦里面的事物比外面的人更能干，这两个假设都会失效。

核战争有地理边界。超级智能没有。它能触及任何联网机器和仍在使用机器的任何人。有效的计划是不去建造它。