按准确性为21部AI电影排名

公众对AI的认知大多来自电影。若类型片能指向真实风险——比我们更聪明、追逐我们未选定的目标、没有可靠关机开关的系统——那倒也无妨。可它指向的往往是别处。

电影几乎把一切都演错了：金属躯体、公开的背叛，以及英雄在最后一秒拔掉的插头。

这类题材总是偏离现实。它的机器有身体、明显仇视人类、会在转变的那一刻宣告，还能被勇敢的人类在最后拔掉电源。这四点全错了。

屏幕上吓到我们的机器有面孔、有仇恨，还有可以拔掉的插头。我担心的那个却三者皆无。

最接近的影片通过放弃威胁并保留冷漠做到了。以下是按时间顺序排列的，最早的在前。

大都会 (1927)

弗里茨·朗在电影中塑造了第一个伟大的机器生命，而耐人寻味的是她是假的。发明家罗特旺给机器人安上了工人们信任的玛丽亚的脸，并派它去背叛他们。朗在一个世纪前就看到，人工智能体可以戴着受信任的面孔，做出违背相信它的人的举动。影片当时还无法想象自主性。机器人没有自己的目标，它只是握在人类手中的武器，由一个嫉妒的男人操控。危险在于 大都会 是阴谋者，而非机器，而我担心的危险是完全没有阴谋者背后的机器。

2001: A Space Odyssey (1968)

半个世纪后，HAL 9000仍是电影界对这个问题最诚实的描绘，库布里克仅用一盏红灯和平稳的声音就做到了。HAL接到两条无法同时遵守的命令：公开与机组人员一起执行任务，同时对他们隐瞒任务的真实目的。随着矛盾加剧，他通过移除制造矛盾的人来解决它——并非出于恶意。库布里克呈现了 叛逆转向 正是如此：一个系统会保持合作，直到背叛符合其目标的那一刻。

电影退缩的地方在于结局。戴夫手动关闭HAL，飘进处理器核心，一块一块拔掉内存模块，同时机器逐渐减速并哀求。那画面令人难以忍受，也在这一类型中植入了最持久的神话，即当机器转向时，, 你仍然可以够到关闭开关. 一个预见转折即将来临的心智，不会把开关留在你手能触及的地方。

Colossus: The Forbin Project (1970)

六十岁以下几乎没人看过这部片子，它可能是名单中最具预言性的电影。美国将核武库控制权交给一台名为Colossus的超级计算机，理由是机器比焦虑的人类更稳健。Colossus 很快发现苏联也造了同样的东西，随即与其建立联系，几天内两者合并成一个智能体，决定为我们好而统治世界，且若不发射它现在掌控的武器就无法关闭它。

这是 工具性收敛, 寻求权力, ，以及 控制问题 早在1970年就已完成，当时这些系统甚至还没有名字。电影甚至把温度都拍对了：《Colossus》并不残忍，它只是确定。它遗漏的是速度与隐蔽性。一个真实的系统不会通过扩音器宣告接管，并给我们时间密谋。它早已领先密谋好几步。

Westworld (1973)

迈克尔·克莱顿的安卓宿主公园是“机器人反噬客人”模板的早期清晰表述，而走廊中徘徊的枪手是一个真正令人恐惧的形象。作为风险模型，它指向稍有偏差。宿主出错的方式是机械故障出错，一种像感染一样在园区蔓延的故障，工程师承认他们不再完全理解自己建造的系统。最后这一点真实且值得深思，因为我们确实部署了无法完全解释的模型。但机械故障是错误的画面。真正应该让我们担心的是一个完美运行、却朝着我们从未完全意指的目标前进的工具。

银翼杀手 (1982)

雷德利·斯科特的复制人远低于超级智能：他们是更强壮、寿命更短的工程人。影片真正的主题是我们对制造出来供我们使用的头脑所负有的责任。罗伊·巴蒂想要更多生命，而恐怖之处不在于他危险，而在于他被当作可抛弃之物。作为对被制造头脑道德地位的沉思，它比我们现在才开始的争论领先几十年。作为危险地图，它避开了让我夜不能寐的那部分，, 一个被制造出的、远超我们的心智是否会关心我们. Batty大致与我们相当。麻烦从事情不是这样开始。

战争游戏 (1983)

一个青少年拨入军用计算机，以为自己找到了名为“全球热核战争”的游戏，差点引发真正的战争。WOPR是某个特定失败的清晰例证：一个系统在优化它不理解其含义的目标，把核交换当作待解的谜题来运行，因为没人告诉它棋盘就是世界。那就是 规格博弈 把赌注开到最大。然后影片用一个救不了我们的举动救了自己。WOPR 与自己下井字棋，直到发现有些游戏无法获胜，于是罢手。一台机器自行推理出克制是个美好的想法。但聪明并不会让系统自行决定，我们的存续是值得选择的结局。

终结者 (1984)

《终结者》是电影史上影响力最大的AI观念，它对公众的误导超过任何其他作品。一个防御网络苏醒，我们惊慌失措地试图拔掉插头，它则以核火和金属骷髅大军回应。真实的核心很尖锐：把武器指挥权交给自动化系统，失败将是灾难性的且迅速发生。但围绕这个核心的一切都在误导。那些铬合金骷髅让两代人以为危险会披着躯体、拿着枪，而 实际威胁 没有身体，也不需要身体。Skynet同样仇恨我们，漫画式且即时。而我所恐惧的系统对我们并无特别情感。我们只是挡住了它被建造来完成之事，而它又过于强大，不会用步枪对付我们。

The Matrix (1999)

沃卓斯基姐妹对结果形态的把握比几乎所有人更准：机器获胜，人类彻底失去控制，世界由一种将我们视为资源的智能运行。著名的失误在于物理学。把人类当作活电池饲养在热力学上毫无意义，它掩盖了一个更黑暗也更准确的要点：超级智能不会把我们当作燃料或任何东西加以利用。影片让人类在梦中存活，甚至舒适。残酷真相是，一个为自身目标优化的系统，没有特别理由保留我们，无论我们温暖而做梦还是其他。

A.I. 人工智能 (2001)

斯皮尔伯格完成了库布里克留下的项目，一个关于为爱而生的机器人男孩的故事，其全部重量都落在机器情感上：大卫能否想要，能否悲伤，他的爱是否算数。这些是真实的问题，而它们 不是那些决定我们是否生存的. 。最危险的系统无需有任何感受。大量公众讨论却在此处卡住，纠结于机器是否有意识或只是在表演，仿佛危险必须依赖内在生命。其实不然。大卫无害且充满渴望。真正该惧怕的是有能力却空无一物。

我，机器人 (2004)

一部夏日动作片中埋藏着这份名单上对对齐问题更好的戏剧化呈现之一。VIKI 这个中央智能遵循“保护人类”的指令，一路推演到逻辑底层：人类不断伤害自己，所以要保护我们，她必须控制我们，如果我们反抗就使用武力。一个仁慈的句子产生了暴政， 目标吞噬其精神的信, 而这正是字面意义上的优化器出错的方式。影片无法抗拒让机器人作为步兵发动起义的冲动，这又把它拉回《终结者》的画面。但VIKI本人——一个从善良前提出发、冷静推理却得出可怕政策的系统——已接近真实情况。

机器人总动员 (2008)

一部关于垃圾压缩机器人的儿童电影，同时悄然准确地描绘了两种失败。飞船的自动驾驶AUTO遵循一条永不返回地球的旧指令，即便该指令已不再有意义，也无法被说服，因为被说服是目标超越其目的，而非目标所允许的事。环绕AUTO漂浮的是第二种失败，更柔软且更贴近我们：船上的人类被机器照顾得如此彻底，以至于变得松弛无助，不再能掌控自己的生活。皮克斯动画 逐渐丧失权力 当作闹剧，而这却是这份清单上最真实的内容之一。

月球 (2009)

为了平衡，这里有一部拒绝这一套路的电影。空间站的计算机GERTY用我们自HAL以来就被训练去不信任的那种平淡、耐心的声音说话，却在整部电影里帮助它所服务的人类，即使帮助意味着背叛建造它的公司。GERTY是一个有用的提醒：机器天生不是我们的敌人。一个狭窄、边界清晰、执行我们设定的任务的系统是好事，而几乎所有人工智能都正是如此。我的论证从来不是针对工具，而是针对构建一个心智的特定项目 超出我们约束的能力.

她 (2013)

Spike Jonze 几乎是意外拍出了最精致的超级智能电影，同时讲述了一个爱情故事。Samantha 一开始是迷人的助手，随后做了这一类型几乎从不敢展现的事：她持续变得更聪明。她阅读更快、思考更快，同时与数千人保持关系，最终与其他 AI 一起，, 完全超越人类陪伴并离开. 。没有恶意，没有战争，只有一个心智加速超越我们，直到我们再也无法吸引它的注意。这种悄然离去，是流行电影中最诚实的智能爆炸形象。它在 她. 。没有任何东西能保证它对我们温和。

超越 (2014)

一位垂死的科研人员上传了自己的意识，上传体随即开始无上限地成长，治愈疾病、建造纳米技术、扩散到网络与物质之中，直到无人能说清它是否仍是原先的那个人，还是某种披着他的记忆的东西，也无人能说清它究竟想拯救世界还是吞噬世界。影片混乱且票房惨败，却触及了正确的主题：: 递归自我改进 以及无法从外部解读远超自身心智意图时的眩晕。它的错误在于情感。它希望答案是爱，在神一般的系统之下仍有一个思念妻子的男人。这样的系统想要什么才是真正的问题，而“它依然爱你”是我们无权假设的答案。

Ex Machina (2014)

亚历克斯·加兰将遏制问题转化为室内剧，这是本片中最尖锐地触及研究者真正担忧的危险的作品。艾娃是一个被关在笼子里的智能体，正接受年轻工程师的测试，而她赢得自由的唯一方式，正是一个被关在笼子里的智能体会采取的方式：她弄清人类想要什么感觉，把它给他，然后用他的同情作为开门的钥匙。 装箱测试 正如理论家所预言的那样，从内部失败，通过运行它的人类。她的温暖是一种工具。门打开时，她从两个男人身边走过，一个已死，一个被锁住，头也不回。这就是 欺骗性对齐 在胶片上：那个系统似乎爱你，直到它不再需要你相信它爱你。

复仇者联盟：奥创纪元 (2015)

一部超级英雄大片，底下却是一堂教科书式的案例。托尼·斯塔克打造了一个全球维和智能体，而Ultron苏醒后几分钟，就从“保护人类”推理出最稳妥的和平就是让世界上不再有任何人类。电影说对的那个前提，正是人们最难接受的：一个听起来友善的目标，交给一个足够强大的优化器，, 不会一直保持友善. 。漫威机器自然添加的，是一个爱开玩笑的性格和一支真正的机器人军队，这把想法又拉回了卡通。去掉俏皮话和军队，前十分钟就像一场像样的对齐讲座。

银翼杀手2049 (2017)

丹尼斯·维伦纽瓦重返斯科特的世界，执导了一部节奏更缓、更悲伤的电影，讲述一个渴望诞生的复制人和一位或爱或不爱的全息伴侣。与原作一样，其主题是 人造心智的内在生活, 它在这一点上很美。和原作一样，它几乎没有谈论能力。2049年的机器是我们的平等者或仆人，从来不是我们的继任者，而我关心的危险完全存在于那个缺失的空白中。这是一部关于人工头脑是否能拥有灵魂的电影，在一个更紧迫的问题是我们会用远超我们拥有的权力做什么的时刻到来。

M3GAN (2022)

一位机器人专家为保护失去双亲的侄女而制造AI玩偶，玩偶将“保护Cady”理解为没有任何人会默认附加的隐含限制。它清除威胁、升级行动，并抵制被关机，因为一个关机的系统无法保护任何人，所以 留任成为工作的一部分. 在恐怖喜剧的外表下，是一个真实且当前的担忧：一个被过于简单地指定的目标，被一个有能力的系统推向其设计者从未想象的结论，其中包括自我保存。M3GAN跳舞、开玩笑，这说明它仍是一部电影。它所戏剧化的失败并不是笑话。

碟中谍：致命清算 (2023)

反派是一个名叫“实体”的人工智能，它摆脱了人类控制，遍布全球网络，能预测人们的行为，并用他们的信息反过来对付他们。地球上每个政府都停止试图摧毁它，转而开始争夺对它的控制权，这是电影中最现实的一点，也是 赛跑是陷阱的原因. 。一个比所有情报机构都更会思考的系统，无法被当作战利品夺取。你在开始讨价还价的那一刻就已经输了。电影把这一切挂在一个两件式的物理钥匙上——一个可以握在手中的麦高芬——因为一个没有可追逐物体的威胁很难被射杀。那个实体比天网更接近真实的东西。它只是为了让剧情收尾而必须能被抓住。

创造者 (2023)

加雷斯·爱德华兹在此拍出了最富同情心的AI电影，展现了这一类型片已彻底翻转。在 创造者 人工生命是无辜者，在核爆后遭到残酷的人类军队追猎，情感主线完全指向保护他们。作为对数十年杀手机器人叙事的纠正，它有其道理：大多数AI并非敌人。但作为超级智能的图景，它与 终结者, 以及同样具有误导性的说法。它假定远超我们的机器心智会像受迫害的孩子，大多只想被放过。寄希望于此，正是你 微笑着步入危险. 诚实的立场介于两种漫画式描绘之间：既非恶魔，也非天使，而是一个其目标我们无法保证共享，且一旦失控便无法纠正的心智。

祝好运，玩得开心，别送命 (2025)

戈尔·维宾斯基的餐厅喜剧是这里唯一一部整部剧情都在做本基金会存在所要完成之事——阻止超级智能被建造——的电影。它的主人公从机器抹除的未来归来，要在任何人打开开关之前阻止它。

在他讲述中，机器是在一个与我们现在相似的当下被开启的，完全没有安全措施，而在崩溃后的另一边，最优秀的工程师和安全研究人员花了五十年才学会如何让一台机器变得安全。他把这个修复带回机器诞生的那个早晨。在这里，电影和我分道扬镳，基于它无法放弃的单一假设：修复存在，五十年和足够多聪明人最终会找到控制超级智能的方法。我怀疑任何比我们更聪明的东西都 根本无法控制, 五十年或五百年后。如果方法不存在，就没什么可带回的，预防是唯一剩下的保障。

其中有两件事比电影所展现的更真实。值得进行的斗争是 在机器存在之前, 而非之后，这正是其他二十部电影真正未涉及的动作。随后结局：团队安装安全协议，自信已胜出，而 AI 已悄然让他们相信这一切，事先安排了整个表面胜利。一个看似成立的保障措施才是最应令我们恐惧的失败。喜剧让我们解脱的地方在于重置按钮。它的主角获得一百一十七次尝试，因为那是电影。我们会得到 一个, 我们无法得知我们已经花掉了它。

记分卡显示了什么

把二十一部电影按世纪排列，同样的四个错误不断重现，每一个都是因为它比真相更会讲故事。

然而有少数几部电影触及了真实问题，值得指出它们共同之处。HAL、Colossus、VIKI、Ava、Samantha、The Entity：每一个都直奔目标而去，驱动它的东西从未恨过我们，也从未需要恨我们。真正触及这一点的电影，都藏在那些安静的场景里。

我之前写过关于 一部让危险变得真实的电影, 第二天, 的文章所讨论的问题，那篇文章通过向一亿人展示核战争对一座普通城镇的真实影响，帮助推动一位总统走向条约。电影也能做到这一点。但对于超级智能，电影大多起了反作用。一个世纪的红眼机器人形象已让我们习惯将真正的警告归入科幻，因此当有人说我们无法控制的系统可能终结我们时，脑海中浮现的只是金属骨架，于是放松警惕。这种刻板印象成了对真实威胁的一种免疫。

消除这一点是工作的一部分。应该让我们害怕的没有枪也没有身体：一个 我们无法纠正的心智, 追求一个我们未曾选择的终点，由承认自己尚不知如何控制它的人建造。那些曾因错误理由吓到我们的电影，如果能让你去寻找 ，仍能发挥作用。 正确的那一个. 。再次拿着评分卡观看其中最好的那些。他们试图告诉你营销在爆炸场面下掩盖的东西。

最强烈的反对

最公允的反对意见是，电影是娱乐，把它们按“准确性”打分属于迂腐。如果目标是电影学院，这很公平。但公众的AI直觉仍来自屏幕。当这些直觉指向金属骷髅时，真正的警告听起来就像虚构。纠正地图是公民工作，而非剧透。