可视化信息图。

可免费下载分享的人工智能安全与超级智能风险信息图。十二张海报,涵盖存在风险、对齐、竞赛迷思、条约先例以及行动方式。

每张海报均取自Nakada Foundation的AI安全解释页面和活动页面。专家P(doom)范围、历史条约先例(NPT、蒙特利尔议定书、化学武器公约)以及达成具有约束力的超级智能禁令的路径,均与本网站资料一致。可用于讲座、课堂、简报和社交帖子。

回形针最大化器AI对齐思想实验信息图
解释

回形针最大化器

为什么一个目标错误但能力强的AI能毫无仇恨地终结世界。

AI欺骗性对齐的背叛转向信息图
解释

叛变转折

一个未对齐的系统如何通过所有安全测试,直到背叛成为最优选择。

渐进式去权:无接管时刻的失控 信息图
研究

逐步去权

人类如何在一次次看似合理的决策中逐步失去控制——没有突然失控的时刻。

“超级智能竞赛是个神话”信息图
分析

超级智能竞赛是个神话

为什么超级智能竞赛没有任何人能掌控或指挥的赢家。

我们以前做过——历史AI条约先例信息图
先例

我们以前做过

NPT、蒙特利尔议定书和《化学武器公约》表明,对存在风险的国际协调是可能的。

我们的通往具有约束力AI安全条约的计划信息图
我们的计划

我们的计划:通往条约之路

从今天的竞赛到约束性超级智能条约、监测和执行。

P(doom)是什么 专家灾难性AI风险概率信息图
解释

P(doom) 是什么??

专家对灾难性AI结果的概率范围——以及为什么小概率仍需行动。

采取行动 选择你的角色 AI安全条约联盟信息图
采取行动

采取行动:选择你的角色

为构建具有约束力的 AI 安全条约背后的联盟提供具体角色。

智能爆炸 递归自我改进信息图
解释

智能爆炸

递归自我改进,以及从人类水平到不可挽回的窗口为何可能迅速坍缩。

← 返回资源