国际 AI 安全协议不会自行出现。它需要一条政策、一张选票、一次次对话地逐步建立。请在下方选择你今天就能参与的角色,而不是“将来再说”。
创始人、高管和运营者拥有学者与倡导者所没有的公信力。他们的选择(造什么、不造什么、与谁合作)都是公开信号,会同时影响市场与同行行为。
将贵公司的立场制定为合同性、董事会批准且可验证的,而非博客文章中的愿望性语言。承诺永不构建ASI系统。只有能被追究的承诺才算数。
拒绝与冲向ASI的前沿AI实验室建立伙伴关系、合资企业或合同。公开说明理由。一位商业领袖若拒绝一笔交易并说明原因,其传递的信息是任何公关都无法制造的。
有益AI无需构建无人能控的系统即可实现。如果你的公司从事AI工作,请将其用于目标明确、范围有限的应用。通过盈利实例证明安全与有用并不冲突。
你能接触到大多数倡导者无法触及的会议、出版物和同行网络。请在这些平台上坦率谈论 stakes。来自行业内部的 credibility 是无可替代的,无法从外部雇佣或制造。
为贵组织将开发或采购哪些AI能力、哪些不会,制定清晰的书面政策。让政策对供应商和合作伙伴具有约束力。让认真对待安全标准成为正常预期。
Nakada Foundation正在构建国际AI安全条约的公众案例。我们不是研究实验室。我们是一个需要资源来触达民众的慈善运动。The 捐赠页面 明确列出你的捐款将用于哪些支出。
无论你是为财务回报还是慈善意图配置资本,你都握有最直接的杠杆之一。撤资赛道并资助抵抗,两者都可行,且都重要。
撤出明确追求ASI的实验室的资金。撤出的资金意味着未购买的算力、未聘请的工程师、未缩短的时间表。这是投资者目前可用的最直接干预手段。
要求任何AI投资或资助都必须把可验证的安全承诺、算力治理合规以及独立第三方审计作为不可谈判的条件。如果对方拒绝,这本身就说明了他们的优先级。
在你持有股权或董事席位的公司,把 AI 安全列入议程。推动制定具有约束力的承诺、审计权,并遵守新兴的国际算力治理标准。董事会和有限合伙人会对大股东做出回应。用好这份影响力。
AI 安全研究领域从它所研究的实验室获得数十亿美元,激励结构已受损。而推动可执行法律的独立倡导和政策组织几乎一无所获。一笔大额捐赠就能改变整个领域的平衡。
对AI实验室实践的调查报道、关于条约框架的政策研究,以及让风险变得具体且不可否认的文化工作,这些都不是商业上愿意生产的。慈善资本是唯一能支持这些关键却无利可图工作的来源。
你能接触到倡导者通过冷接触无法触及的捐赠者、基金会董事会、机构投资者和政策制定者。召集他们。介绍这一事业。你的一小时接触价值一个资金不足组织一年的努力。
AI实验室和科技公司的研究人员、工程师和技术人员拥有外部倡导者无法企及的信息、权限和影响力。历史表明,工作者曾改变过看似不可能撼动的机构。
通过一切现有的正式渠道提出担忧:安全团队、监察员、伦理审查、董事会准入。将每一次沟通都以书面形式记录。在需要之前就创建书面记录,而不是事后补救。
你并不孤单。在每家主要实验室,都存在对前沿AI发展方向感到担忧的研究人员和工程师。彼此寻找。技术人员的集体行动此前已改变AI公司的企业行为,现在依然可以。
披露不安全开发信息的人付出了巨大的个人代价。公开、专业地支持他们。他们的披露能让公众看到局外倡导者无法单独呈现的真相,因为只有内部人知道真实情况。
在许多司法管辖区,举报人保护措施适用于披露危害公共安全活动的员工。了解你的权利。咨询该领域的专业律师。在你还有时间准备时,了解你的选择。
你拥有的技能需求极高。你可以找到另一份工作,而且很可能更好。那些构建前沿人工智能系统的研究人员和工程师,对雇主的影响力几乎超过历史上任何劳动力。他们大多尚未使用这一杠杆。问题在于你是否愿意使用。
如果你在前沿AI实验室工作,并且有理由相信开发过程不安全(承诺未兑现、风险被淡化、时间表比公开披露的更短),那么你会怎么做已不是假设问题。现在就思考吧。
任何私人组织,无论资金多么雄厚,都无法约束主权国家对 AI 发展的限制。只有政府与政府谈判才能做到。政治家、文官、外交官和监管者才是将制定法律或失败的人。
要求政府批准超过特定算力阈值的AI训练运行,目前提议阈值为10²⁶次浮点运算。这在技术上可行、可独立验证,且有先例。少数芯片制造商控制着训练前沿模型所需的硬件。在这一瓶颈处进行许可。
正式请求你的政府在联合国或相关多边机构提出提案,启动关于具有约束力的AI安全条约的谈判。《蒙特利尔议定书》从科学共识到批准只用了不到两年。这种规模的雄心是有先例的,并非天真。
AI存在风险尚未成为议会或国会听证的常规议题。把它列入议程。邀请愿意坦率发言的研究人员和前AI实验室员工。创建未来行动所需的、历史也将查阅以判断我们是否及时行动的立法记录。
推动为AI监测机构、独立安全审计机构,以及有效条约所需的国际核查机制提供充足资源。国际原子能机构在NPT后三年内成立。它的AI对应机构,只要政治意愿存在,也能在同样时间尺度内实现。
AI 存在风险是文明问题,而非左右之争。在国内跨越党派建立联盟。在其他首都寻找对应方。条约需要所有主要 AI 开发国的参与才能有效,这些对话现在就必须在政治层面启动。
AI公司将巨额资源投入游说与关系建立。他们倡导的政策框架旨在保留商业行动自由,而非保护公众。要求独立证据。对由本应受约束的实体制定的安全标准保持怀疑。
艺术家、记者、电影人、音乐人、作家、名人与拥有平台的影响者,你们正是让抽象威胁变得真实而紧迫的人。政客回应的是公众舆论,而你们塑造公众舆论。
统计数据和政策论文无法打动人,故事才能。创作(无论用何种媒介)能让受众感受到风险:搞砸这件事,对他们自己、对所爱之人、对后世每一代人意味着什么。
采访人工智能研究员、愿意坦言的前实验室员工,以及从事这些议题的政策倡导者。你的影响力能让他们的信息达到学术论文和新闻稿独自无法企及的规模。一次访谈胜过一百份政策简报。
如果你拥有平台(读者群、粉丝或受众),请用它直白地表示:这是你一生中最重要的议题。不要为迎合而软化,不要因商业原因而回避。直白地说。受众尊重那些愿意因直言而有所损失的人的直接表达。
拒绝与没有绑定安全承诺的前沿AI实验室合作的伙伴关系、背书和赞助内容。如果实验室向你提供交易,公开拒绝会传递一个他们无法收买的信息。他们需要你的受众和信誉。明确利用这种杠杆。
科幻作品对公众技术意识的塑造,超过了历史上任何政策文件。气候运动先通过艺术再通过法律建立了文化基础。如果你从事创作(写作、导演、作曲、插画),就去创作能让人们正视我们正在构建之物的作品。
Nakada Foundation正在构建一场媒体运动,以改变公众对国际AI安全的看法。我们希望与那些将自身平台视为政治权力形式的创作者合作。 联系我们。
二十世纪每一场重大社会运动都是年轻人推动的。这一场也需要你,不是作为旁观者,而是作为组织者和决策者,你们的价值观和网络正在此刻形成。
创立或加入学生AI安全组织。推动大学支持具有约束力的ASI治理研究、邀请超级智能风险演讲者,并将预防纳入课程。个人抵制与捐赠象征是可选的辅助渠道。能规模化的工作是组织政治压力以推动条约。学生运动曾推动大学,它们也能再次推动大学走向法律,而非品牌抵制。
法律、政策、外交、新闻和政府是决定条约能否谈判并执行的领域。AI安全运动迫切需要这些职业中理解技术利害关系的人。你的职业生涯是你将做出的最有影响力的选择之一。让它有意义。
前沿 AI 实验室从顶尖大学大量招人。拒绝 offer 并公开说明理由,比实验室任何自愿的安全承诺都更有分量。你选择去别处,就是他们无法反驳的政治表达。
你的同学是未来十到二十年内将对 AI 政策做出重大决定的那一代人。你们现在的对话会塑造他们日后的直觉。不要等到这成为别人的问题再去参与。
年轻人在政治接触中系统性被低估,而民选官员清楚这一点。写信、致电、现身。告诉你的代表,国际AI安全是你这一代人的决定性议题,并询问他们支持哪些立法。
《核不扩散条约》、《化学武器公约》、《蒙特利尔议定书》:每一项都为AI安全条约可能的样子以及如何核查提供了经验。研究历史。成为有资格设计下一个条约的人之一。
政客回应那些提出明确问题并现身参与的选民。向代表、在听证会上以及在日常对话中提出AI安全问题的人,正是让本页所有其他行动成为可能的选民基础。我们不支持或反对任何候选人或政党。
询问你选出的官员对算力许可立法和国际AI安全条约谈判持何立场。如果他们不了解这一议题,就告知他们。清晰而反复的选民提问,是让一份被忽视的文件成为现实议题的方式,而现在几乎没有人提出这类问题。
电话、邮件和面对面选民拜访对民选官员的影响力,远超在线请愿。请具体提出:要求他们支持算力许可立法,并启动正式国际条约谈判。今日就写,而非等到感觉更紧急时再行动,因为那时可能已为时过晚。
亲自现身。询问你选出的官员是否支持国际AI安全条约。这个问题本身就是一种政治教育,对官员如此,对在场听到提问与回答的其他人也是。
政治多数派是通过社交网络而非广告建立的。和你的家人、同事、邻居谈谈吧。你今年的对话将塑造政客明年敢说的话,以及后年他们觉得能通过的法律。
如果你觉得这些内容有意义,现在最有价值的事就是扩大这一事业的支持者。把本文发给一个尚未思考过这些问题的人。运动就是这样成长的:一次对话接一次对话。
当国际人工智能政策出现需要您关注的发展,以及当您可以采取具体行动时,我们会发送简报。