一份具有约束力的国际AI安全条约不会自动送到我们面前。它需要我们去争取、去组织、去出资。我们的独立完全依赖于像你这样的人。
在线捐赠尚未上线。 支付处理器要求认证的非营利实体,而基金会的注册仍在最终确定中。与此同时,, 登记您的兴趣 我们会在捐赠开放的那一刻通知您。
组织状态。 未注册的慈善协会,美国。正在寻求501(c)(3)下的财政赞助。目前尚无EIN。在获得合格赞助方或自行取得认定函之前,捐赠不可抵税。
AI安全领域的大部分资金仍流向将超级智能视为不可避免的实验室和技术研究。几乎没有资金用于确保超级智能永不被建造的政治工作。我们做这项工作,且仅做这项工作:有约束力的国际条约、公众压力,以及使条约成为可能的关注运动。我们不接受来自AI实验室或其投资者的资金。
技术AI安全已经占据了该领域的资金和最优秀人才,尽管付出巨大努力,却无人证明如何可靠控制远比建造它的人更聪明的系统。假设控制远比我们聪明的实体是可解的,它也绝不可能及时解决。剩下的唯一保护,就是选择在这些系统能被安全制造之前不建造它们。这个选择是政治性的,且资金严重不足。
在这里捐款就能买到缺失的那一块。不是又一篇关于如何控制比建造者更聪明的头脑的论文,而是工作人员、组织者、真正回应竞速口号的X回复、立法者和创作者能看到的內容,以及把慈善转向预防的长期推动。每一美元都花在能最大程度降低灭绝风险的地方。
你的捐赠具体涵盖哪些内容,以下逐项列出。我们承诺公开达到透明门槛的重大捐赠。
现在无法捐赠?? 改为贡献你的时间。
更希望在免税捐赠功能上线后进行大规模捐赠吗?? 登记对重大及机构捐赠的兴趣。
在安全支付功能开启前,本页面不会扣款,也不会收集任何支付信息。
如果你希望捐款发挥最大效用,推理过程直截了当。以下是完整说明,毫无隐瞒。
礼物的意义在于其效果,而一美元的效果因地而异。因此诚实的问题不在于某项事业是否“善”,而在于这是否是 最佳 下一美元的最有效用途。认真对待这个问题,其他一切随之而来。
影响力最大的事业是惠及所有人以及所有后世之人的事业。对 整个人类未来 超过任何有限问题,因为它危及的不是一代人,而是可能随之而来的每一代人。
在可能终结人类的技术中,人工超级智能位居首位。根据现有最可靠的结构化估计,其带来的 核战争灭绝风险的一百倍, ,而且它是唯一能自我改进并对抗我们所有反制措施的。
技术安全研究已占据该领域资金和最优秀头脑,却仍无人能控制远超我们的系统。资金不足的工作是另一种:有约束力、可核查的国际协议,在超级智能能被安全构建之前阻止其出现。我们只专注这一件事,而非已然存在的研究。
你能资助的最具影响力的事,就是阻止超级智能,而其中最被忽视的部分,是让它成为法律的政治斗争。这正是你的捐款去向,也正是为什么在这里的一美元,按美元计,是你能做出的最高影响力捐款之一。
资助使命 →每一美元都用于以下项目的行政、技术和人力成本。我们宁愿向你展示明细,也不愿让你相信一句使命宣言。我们将用数据衡量进展,并公布具体数字。
我们需要资金 尽快 为一名全职社交媒体专员提供资金,其工作是查找并回复X上关于“ASI竞赛”“奇点”“赢得AI竞赛”“ASI”和“超级智能”的帖子。这项工作目前无人承担。赛跑口号每小时都在刷屏,却无人在线程中给出审慎反驳。
为什么是X。它是全球最具影响力人士的第一社交平台:立法者、记者、实验室负责人,以及他们阅读的账号。社交媒体如今已成为许多立法者的主要新闻来源。一条精准回复就能触达数百万曝光。这是我们用另一份白皮书买不来的认知。
你的资金用于支付一个 X 组织 账户(已验证、可信、可大量发帖)、写手与回复者的薪酬,以及将他们纳入使命与内容准则的培训。目标很简单:不让任何高曝光的竞赛帖无人回应,我们自己的推送也要不间断地陈述预防理由。
可衡量的输出:: 回复和原创帖的曝光与触达(账户上线后可查看公开分析数据)。
短长篇写作、图像、信息图表与视频:原创的超级智能相关作品,让非专业人士一次读完就能理解。作品完成后,会推送到我们能触达的每一个平台,并在观点真正形成的地方投放付费内容。
这不是又一份给业内人士看的白皮书。它是面向普通人的创作:解释性文章、随笔、视觉作品和接近电影的叙事,让没有技术背景的人也能看懂 stakes。
赞助专业通讯 立法者及其工作人员已经打开的。 赞助播客 那些人在开车时收听的。 赞助内容创作者 ,面向真实受众。人们从创作者那里形成观点。看看今天谁在发布关于ASI作为存在风险的内容:几乎没有具备影响力的人。这就像冷战时期几乎没有持麦克风的人谈论防止核战争。填补这一沉默是在条约投票甚至尚未安排之前让威胁变得清晰的低成本方式,而非虚荣。
你的资金支付原创作品的创作者、通讯赞助、播客承保、已验证社交账号,以及分发工具,让时间投入论证而非排队发帖。
可衡量的输出:: ,以及原创内容的观看时长,再加上我们赞助分发的触达量。
我们已经开始寻找能够做这项工作的人。很快得出一条教训:制作一段视频需要数月时间。那太慢了。竞赛仍在推进,而影片却在队列中等待。
视频不应耗时数月。
这里的资金用于同时让更多这样的人投入工作。
可衡量的输出:: 从开始到原创文章发布的时间。
正在审议,尚未资助
大量讨论和慈善资金仍流向对齐:旨在让未来超级智能向好发展的技术研究。说清楚“解决对齐”到底意味着什么。它意味着 可靠地控制远比我们更智能的东西. 它就在名字里:: 超级智能. 把物种赌在控制一个比所有建造者都更聪明的头脑上,是个愚蠢的计划,根据我们掌握的证据,也是不可能的。
雄心勃勃地使用捐助资金是雇用带薪员工,其工作是会见资助者和顾问,, 提出理由将稀缺的安全资本转向条约、核查和公众压力, ,并在资金已承诺的场合开展这项工作。不要再往那堆文件里加一篇。
狭义系统安全只要真正可控,就值得资助。那些假设我们会先造出一个后继物种、再给它套上枷锁的研究则不值得。有效利他主义的领导者曾用同样的逻辑把慈善转向疟疾蚊帐。如果我们在超级智能问题上走同一条路,就该在开口要钱前先把话挑明。
安全在线捐赠上线时立即收到通知。你还将偶尔收到资金去向简报。