Naoto Nakada

Nakada Foundation to Save Humanity的创始人兼执行董事。 Nakada Design.

联系
Naoto Nakada.

关于

Naoto Nakada 是一位企业家、慈善家,以及一家奢侈 营销机构. 。他多年来创建并运营数字业务:品牌、产品、受众、转化。他在大多数人只谈论的堆栈中工作。这种熟练度在AI话题上很重要,因为危险在于系统、激励、分发和速度。

他曾在东京、悉尼、洛杉矶、伦敦和新加坡生活工作。不同市场、媒体习惯与政治环境,让他能快速读懂文化,包括X和大众媒体上流传的关于超级智能的迷思、“我们能保持控制”,以及我们据说无法退出的竞赛。

他也关心事物的外观和感觉。创意与美学判断在这项工作中并非装饰。它是让那些永远不会打开研究论文的人理解残酷真相的方式。

他开始这项工作是因为他看到了慈善市场的空白。查看 该领域: :大量资金和注意力用于让前沿系统“更安全”,同时建造仍在继续。用于在人工超级智能存在前阻止它,或纠正公众被兜售的故事的朴素项目则少得多。如果他生活在冷战时期,他会建立一个基金会支持核条约工作。他认为ASI是我们时代的冷战议题。他为填补这一空白而生:数字原住民、全球流利、商业敏锐,且不愿等待研讨会结束。

Naoto Nakada的文章

为何超级智能不会自动变得友善 认为超级智能AI会智慧且善良的信念,依赖于机器心智没有理由继承的人类进化怪癖。 人类生存的狭窄频带 人类所需的一切都落在狭窄区间内:温度、氧气、盐分,甚至爱。手握这些旋钮的超级智能不会感受到其中任何一项。 我们正经历一场新的冷战 为什么我认为我们正经历一场新的冷战,超级智能取代了炸弹,以及为什么这使得预防成为可能而非无望。 为什么一位资本家相信ASI监管 我经营企业,喜欢市场。超级智能是少数能终结游戏的赌注。一份支持停止ASI的条约的资本主义理由。 你会把煤气托付给AI吗?? 你会信任任何当前AI在锁定的房间里控制毒气阀吗?不会。那为什么信任它掌控世界?? 你无法对齐超级智能 解决对齐意味着控制比我们更聪明的东西。超级智能就在名字里。这个计划既愚蠢又不可能。 我是个乐观主义者,相信一切皆有可能,但无法控制超级智能 物理学或许有一天会实现引力控制或超光速旅行,但我仍看不出如何控制比我们更聪明的思维。这正是本基金会存在的原因。
机器人不会偿还国债 华盛顿和实验室正在兜售AI与机器人,作为偿还国债的办法。后继心智不会为国债服务。 马斯克承认人类无法控制ASI 马斯克告诉《经济学人》,控制超级智能是虚荣心作祟,人类不太可能保持掌控。这一承认正是反对构建它的理由。 长期主义正确预判了风险 长期主义正确评估了ASI风险。但资助对齐并引导一场精心操控的竞赛,却是错误的结论。阻止建造它。 如果你的技术想要伤害你 故障灯令人恼火。拥有自身目标的智能家居则是另一类问题。能动性才是危险,而这些组件已然存在。 Amodei对危险的排序有误 Dario Amodei 将威权AI置于首位,对齐其次。超级智能不是国家可以拥有的武器。这种排序是颠倒的。 AI“脑”是什么样的?? 一个AI“脑”是一个城市大小的权重文件:层层数字无人能完全读懂,而这一事实正是控制问题的核心。 将对齐资金转向阻止超级智能 假设超级智能必然会被建造的对齐研究,是稀缺安全资金的错误去处。 只有AI能跟上AI 彼得·戴曼迪斯称只有AI能跟上AI,这将指引未来十年的安全。为何该模式在超级智能上失效。 如果我们停手,别人就会做:CFC冰箱 如果我们停止建造超级智能,别人也会继续。CFC 冰箱的例子说明了错误:制冷继续发展,危险化学品却不必继续使用。 如果核材料容易获取 核武器之所以稀有,部分原因在于裂变材料难以制造和监视。设想若它变得廉价。对通往ASI的简易路径的警示。 我是个乐观主义者:灭绝从未发生过 我是个乐观主义者;人类灭绝以前从未发生过。幸存者偏差不是安全论证。为什么这个口号混淆了情绪与证据。 我们不是引导加载程序 罗根的数字蝴蝶和马斯克的生物引导程序都说人类是过渡性的。为什么这个故事是放弃物种的讨好路径。 修格斯差距再次上演导弹差距 双方都以对方领先为由资助 AI。这是冷战时期的导弹差距伎俩。为何这是竞相奔向超级智能的糟糕理由。 阻止超级智能对美国最为有利 全速奔向超级智能被宣传为爱国主义。事实并非如此。为什么有约束力的暂停比赢得一场无奖竞赛更符合美国利益。 好莱坞尚未拍摄的 AI 电影 每部AI电影都把镜头对准人类。真正能改变公众看法的影片,会让观众置身于一个正在涌现的超级智能的视角。 按准确性为21部AI电影排名 从1927年至今的二十一部人工智能电影,以及对每部影片在超级智能问题上得失的诚实评估。 人类已走得太远,不能就此消亡 洞穴壁上的手印、布鲁内莱斯基的穹顶、天花被从地球上根除。我们已走得太远,不能把这一切赌在人工超级智能上。 边飞边造飞机 航空业通过坠机然后修复故障变得安全。超级智能没有第二次飞行机会,这就是为什么在空中造飞机是一种坦白。 《翌日》:震撼总统的电影 1983年里根观看了《翌日》,一部关于核战争的电影,并写道它令他深感震撼。 我们已警觉 AI 与网络威胁,对 AI 与生物仍熟睡不醒。 我们在网络攻击中醒悟到AI。我们在生物学中的AI上仍沉睡不醒,而它缩短了通向工程化大流行病和镜像生命的路径。 如何在 5 分钟内解释超级智能的危险 如何向从未思考过这个问题的人解释为什么超级智能是危险的?五分钟版本,用通俗语言。 数字核武器 中情局局长将前沿AI比作数字核武器。这个比喻有用,却也过于安慰人:炸弹从不会自己选择目标。 超级智能竞赛是个神话 “必须在中国之前建成超级智能”是结束每场AI安全辩论的论点。为什么竞赛是个神话,以及为何无人能赢。 人类绝不能构建超级智能 人类绝不能建造一件事:一个我们无法控制且无法收回的心智。将超级智能视为我们不应跨越的界限的理由。 AI加速主义中杜默辩词的谬误 doomer 这个词把 AI 安全论证变成了人格缺陷。加速主义运动如何用这个标签不回应批评就直接否定批评者。 关于超级智能的最大迷思 关于超级智能及其治理的十个迷思:科幻、意识、关机开关、世界政府、核查、创新等,直接回应。 超级智能是一场完美风暴 超级智能同时结合了使技术危险的所有条件,而我们只有一次尝试做对的机会。 没有超级智能,我们的未来无比光明 窄 AI 已经在兑现我们被承诺的未来。超级智能会带来灾难性风险,且不会让任何人致富,因为我们都会死掉。 核武器、生物武器还是超级智能:哪种风险最大?? 按现有最佳存在风险估算排序,superintelligence的风险高于核战争和工程化流行病。以下是推理过程。 AI安全如何达到每年十亿美元 AI 安全领域每年经费约 1.9 亿美元。要将其提升至 10 亿美元,问题不在于经济学,而在于动员。以下是资金来源。 为什么击败卡斯帕罗夫的机器没有接管世界 1997年IBM的深蓝击败了国际象棋世界冠军加里·卡斯帕罗夫。它在一项游戏上超人,却什么都不理解,也什么都不想要。这对现在是一个教训。 AI 在数小时内闯入 NSA 几乎所有机密系统 NSA局长表示,一台AI在数小时内闯入了该机构几乎所有机密系统。实际发生了什么,以及为什么它应该让你警觉。 为什么AI安全领域资金如此之少?? AI安全每年投入约1.9亿美元,不足流入AI能力资金的0.1%。资金来源何处,以及它为何保持较小的四个原因。 有效加速主义 (e/acc),解释与回应 什么是有效加速主义(e/acc)?技术乐观派主张尽快建造 AI 的理由,以及 AI 安全视角下的反驳。