AI安全と実存的リスクについて行動を起こす、, 超知能は決して構築されてはならない。

人工超知能を明確に追求する研究所から資本を引き揚げよ。引き揚げられた資本は購入されない計算資源、雇われないエンジニア、短縮されないタイムラインになる。これは投資家が今日利用できる最も直接的な介入だ。

AI投資や助成金の条件として、検証可能な安全コミットメント、計算資源ガバナンスの遵守、独立した第三者監査を譲れない要件として課すこと。もし同意しないなら、それは彼らの優先順位について重要なことを物語っている。

株式や取締役席を持つ企業では、AI安全を議題に上げてください。拘束力のあるコミットメント、監査権、新たな国際的計算ガバナンス基準への準拠を推進してください。取締役会やLPは大株主の声に反応します。その重みを利用してください。

AI安全研究分野は、研究対象であるラボから数十億ドルの資金を得ており、インセンティブ構造が歪んでいます。強制力のある法律を目指す独立した提言・政策組織は、ほとんど何も得ていません。一つの大型寄付で、分野の力関係を変えられます。

AIラボの実態を掘る調査報道、条約枠組みに関する政策研究、リスクを visceral で否定しがたいものにする文化活動——どれも商業的に魅力がありません。利益にならないが不可欠な仕事の資金源は、 philanthropic capital しかありません。

あなたは、提唱者たちが冷やかしでは到底届かない、ドナー、財団理事、機関投資家、政策立案者へのアクセスを持っている。彼らを招集し、この問題を紹介してほしい。あなたのアクセスの一時間は、資金不足の組織が一年かけて努力する価値に等しい。

安全チーム、オンブズパーソン、倫理審査、取締役会へのアクセスなど、存在する正式な仕組みを通じて懸念を提起してください。すべてのやり取りを文書に残し、必要になる前から記録を作っておくことです。

あなたは一人ではない。フロンティアAI開発の方向性を懸念する研究者やエンジニアは、主要な研究室のすべてに存在する。互いを見つけよう。技術スタッフによる集団行動は、以前にもAI企業の企業行動を変えたし、再び変えられる。

危険な開発について情報を開示した人々は、大きな個人的犠牲を払っています。公にも職業的にも彼らを支えてください。彼らの告発こそ、外部の提言者だけでは作れない世論を形成します。実際に何が起きているかを知っているのは内部者だけだからです。

多くの法域では、公衆の安全を脅かす活動に関する情報を開示した従業員に対して、内部告発者保護が存在します。自分の権利を理解してください。この分野を専門とする弁護士に相談してください。準備する時間がまだあるうちに、選択肢を把握しておきましょう。

あなたには非常に需要の高いスキルがあります。別の仕事、恐らくより良い仕事を見つけることができます。フロンティアAIシステムを構築している研究者やエンジニアは、歴史上ほとんど例のないほどの雇用主に対する交渉力を持っています。ほとんどの人がまだそれを行使していません。問題は、あなたが行使するかどうかです。

フロンティアAIラボで働き、開発が安全に進んでいない（約束が守られていない、リスクが過小評価されている、公表されているタイムラインより短い）と考える理由があるなら、「自分ならどうするか」は仮定の問題ではない。今から考えておくこと。

定義されたcompute閾値（現在10²⁶浮動小数点演算が提案されています）を超えるAI訓練実行に政府の承認を義務付けます。これは技術的に実行可能で、独立して検証可能であり、前例もあります。少数のチップメーカーだけがフロンティアモデルの訓練に必要なハードウェアを支配しています。そのチョークポイントでライセンスを発行してください。

政府に対し、国連または関連する多国間機関で拘束力のあるAI安全条約に関する交渉を開始する提案を提出するよう正式に要請してください。モントリオール議定書は科学的合意から批准まで2年足らずで実現した。この規模の野心は前例があり、甘い考えではない。

AIの存在リスクはまだ議会や国会の定期的な議題になっていない。議題に上げよう。率直に話せる研究者や元AIラボ職員を招き、将来の行動に必要な立法記録を作り、歴史が「私たちは間に合ったか」を振り返るための資料を残そう。

AI監視機関、独立した安全監査人、そして効果的な条約に必要な国際査察体制に十分な資源を割り当てるよう働きかけてください。国際原子力機関は核拡散防止条約から3年以内に設立されました。そのAI版も、政治的意思さえあれば同じタイムラインで実現可能です。

AIの存在リスクは左右の問題ではなく、文明全体の問題だ。国内では超党派の連合を築け。他の首都の対応者にも手を伸ばせ。条約は主要なAI開発国すべての参加を必要とするので、そうした対話は今、政治レベルで始めなければならない。

AI企業はロビー活動や人脈作りへ莫大な資源を投じている。彼らが推す政策枠組みは、公共の保護ではなく、企業の行動の自由を確保するためのものだ。独立した証拠を求めよ。規制される側の企業が書いた安全基準には懐疑的であれ。

統計や政策論文は人を動かさない。物語が動かす。自分のメディアで、聴衆に何が懸念されるのかを感じさせる作品を作ること。間違えた場合、自分自身や愛する人々、そしてすべての次の世代にとって何を意味するのかを。

AI研究者、率直に話せる元ラボ職員、これらの問題に取り組む政策提唱者にインタビューせよ。あなたの影響力は、彼らのメッセージを学術論文やプレスリリースだけでは届かない規模に広げられる。一回のインタビューが、百の政策文書より効果的だ。

プラットフォーム（読者、フォロワー、視聴者）をお持ちの方は、それを活用して「これはあなたの人生で最も重要な問題である」と率直に述べてほしい。聞きやすくするために和らげず、商業上の理由で留保せず、率直に。直接性を失うものを抱えている人からの率直さは、聴衆に敬意を持って受け止められる。

フロンティアAIラボに拘束力ある安全コミットメントなしで利益をもたらす提携・支持・スポンサードコンテンツはすべて断れ。ラボが取引を持ちかけたら、公に断ることで彼らが買えないメッセージを送れる。彼らはあなたの視聴者と信頼を必要としている。その影響力を明確に使え。

SFは歴史上、政策論文のどれよりも技術に関する公衆の意識を形作ってきた。気候運動は法律で築く前に芸術で文化的基盤を築いた。ものを作る人（書く、監督する、作曲する、描く）なら、私たちが何を構築しているのか人々に考えさせる作品を作ってください。

中田財団は、国際的なAI安全保障に関する世論を変えるためのメディアキャンペーンを展開している。私たちは、自らのプラットフォームを政治的力と捉えるクリエイターと協働したい。 ご連絡ください。

学生のAI安全組織を立ち上げるか参加してください。大学に拘束力のある人工超知能ガバナンス研究を後押しさせ、超知能リスクに関する講演者を招き、予防をカリキュラムに入れさせましょう。個別のボイコットや寄付金シンボリズムは任意の副次経路です。規模が拡大するのは、条約を求める組織的な政治的圧力です。学生運動は以前に大学を動かしました。再びブランドボイコットではなく法に向かわせることができます。

法律、政策、外交、ジャーナリズム、政府——これらの分野が、条約が交渉され、履行されるかどうかを決めます。AI安全運動は、技術的な意味を理解した人々をこれらの職業に強く必要としています。あなたのキャリアは、これまでで最も重大な選択の一つです。意味のあるものにしてください。

最先端AIラボは一流大学から積極的に人材を採用しています。オファーを辞退し（その理由を公に説明すれば）、安全に関する自発的な誓約よりも大きな重みを持ちます。他を選ぶというあなたの決断は、ラボが反論できない政治的言論です。

あなたのクラスメイトたちは、10〜20年後にAI政策に関する重要な決定を下す世代です。今交わしている会話が、後々彼らが持つ直感を形作ります。これを誰か別の問題になるまで放置しないでください。

若者は政治的な接触で体系的に過小評価されており、選出された議員もそれを知っている。手紙を書き、電話をし、足を運ぼう。国際的なAI安全保障が自らの世代を定義する問題だと議員に伝え、どのような立法を支持しているのか尋ねてほしい。

核拡散防止条約、化学兵器禁止条約、モントリオール議定書。それぞれがAI安全条約がどのような形になり、どのように検証されるかの教訓を持っている。歴史を学び、次の条約を設計できる資格を持つ人になること。

選出された議員に、コンピュートライセンス法や国際AI安全条約交渉についてどう考えているか尋ねてください。知らなければ知らせてください。明確で繰り返される有権者の質問こそ、見過ごされてきた問題を現実の議題に変えます。まだほとんど誰も聞いていません。

電話、メール、対面での有権者訪問は、オンライン署名とは異なる形で選出議員を動かす。具体的に、コンピュート免許制度と正式な国際条約交渉の支持を求めよ。緊急性を感じてからではなく、今日書くこと。遅すぎるかもしれないからだ。

直接会いに行く。選出された議員に、国際的なAI安全条約を支持するかどうかを尋ねてほしい。その質問自体が、議員にとっても、質問を聞き答えるのを耳にする周囲のすべての人にとっても、政治教育の行為となる。

政治的多数派は広告ではなくソーシャルネットワークを通じて築かれる。家族、同僚、近所の人と話そう。今年の会話が、来年政治家が安全に言えること、そしてその翌年に成立させられる法律を形作る。

これが意味のあるものだと思ったら、今できる最も価値のあることは、この大義のための支持層を広げることだ。この問いをまだ考えたことのない人に一人送ってみてほしい。運動が広がるのは、一度に一つの会話からだ。