我经商 我喜欢市场。 价格,竞争,以及尝试新事物的权利,使平凡的生活比我读过的任何五年计划都要好. 我想用人工超智能来阻止它 自由市场口号通常跳过。

市场在分配资本方面很出色，前提是错误赌注的 downside 是局部的。一家餐厅倒闭，房东可以重新出租空间。一款小工具失败，投资者可以核销损失。即使一家银行过度扩张，在正常系统中也可以被处置而不至于终结物种。损失被限制在我们能画出的圈内。

超级智能不是那种赌注。公开场合下，建造它的人都说自己不知道如何控制一个在各方面都比他们更聪明的系统。先行运送该系统的竞赛不是“创造性破坏”，而是把每条人命都押上的单一不可逆赌注。资本主义若没有针对此类赌注的后备机制，就只是拿着不断增加弹膛的左轮手枪玩俄罗斯轮盘赌，而非资本主义。

竞速领先的论点

创新复合物. 每年的延迟成本治疗,科学进步,国家优势. 政府很笨拙。 条约泄露. 如果一个国家减速,一个对手不会,小心的一方会输出两次:没有铅,没有安全. 唯一现实的道路是比其他人更快地建设,保持领先地位在友好的手中,并沿途固定对接.

这是你提出的论点 当你还没有定价的产品。 如果你还留着你建造的东西 线索才重要 一个错位的超级情报是 超越那些签署资助协议的人的代理人: 不是一个你能够控制的投资组合公司, 也不是你瞄准的导弹。 先到那里,如果你不能引导它, 意味着先被替换。 没有出口。 灭绝后没有B系列.

资本真正需要什么

资本需要一个持续存在的世界。它需要法院、财产、客户，以及合同仍有意义的未来。能终结这一切的技术不是“又一个平台”。因为演示看起来像聊天窗口，就把它当作消费级应用对待，是附带死亡人数的范畴错误。

我不是要求市场停止发明。能诊断疾病、设计材料、加速物流的窄AI，正是我希望更多的那类进步。界限在于超级智能：当我们仍无法验证其目标是否与我们兼容时，就构建在所有领域超越人类认知的系统。划清这条界限，才能让经济其余部分存续足够久以实现复利增长。

市场是将风险转化为进步的机器，但不是自杀契约。拒绝某一类赌注，正是游戏得以继续的方式。

将监管视为基础设施

人们听到“监管”就想到给初创公司加的文书税。如果规则愚蠢，这么想也合理。我关心的规则更像当初让资本市场得以成立的那些：你不能出售欺诈股份，不能把毒物倾倒在工厂旁边的河里，不能因为幻灯片上看起来前景诱人，就在地下室建造核反应堆。

禁止制造人造超级智能的国际条约是这些规则之一,条约对芯片和培训的实际运行地点进行了核查。 它是文明的基础设施。 没有它,每个实验室 都处于囚犯的困境 惩罚谨慎。 有了它,资本就可以继续资助AI有用的一半,而不资助吃董事会的那一半.

我希望我的公司在还有顾客的世纪里继续繁荣。这是一个市场所需的最低要求。如果你自称资本主义者，却在竞相建造无人能拥有的东西，那你不是在捍卫资本主义。你是在点燃账本并把火光称为增长。