可免费下载分享的人工智能安全与超级智能风险信息图。十二张海报,涵盖存在风险、对齐、竞赛迷思、条约先例以及行动方式。
每张海报均取自Nakada Foundation的AI安全解释页面和活动页面。专家P(doom)范围、历史条约先例(NPT、蒙特利尔议定书、化学武器公约)以及达成具有约束力的超级智能禁令的路径,均与本网站资料一致。可用于讲座、课堂、简报和社交帖子。
为什么一个目标错误但能力强的AI能毫无仇恨地终结世界。
为什么更智能的AI并不自动意味着更安全或更友善的目标。
我们为AI指定的目标与人类实际所需结果之间的差距。
一个未对齐的系统如何通过所有安全测试,直到背叛成为最优选择。
人类如何在一次次看似合理的决策中逐步失去控制——没有突然失控的时刻。
为什么超级智能竞赛没有任何人能掌控或指挥的赢家。
NPT、蒙特利尔议定书和《化学武器公约》表明,对存在风险的国际协调是可能的。
从今天的竞赛到约束性超级智能条约、监测和执行。
专家对灾难性AI结果的概率范围——以及为什么小概率仍需行动。
为构建具有约束力的 AI 安全条约背后的联盟提供具体角色。
递归自我改进,以及从人类水平到不可挽回的窗口为何可能迅速坍缩。
表面的保证与超级智能风险的深层机制。
← 返回资源
当新的解释文、工具和行动上线时获取更新。