ダウンロードして共有できる、AI安全と超知能リスクに関する無料インフォグラフィック。存在リスク、アライメント、レース神話、条約の前例、行動の仕方に関する12枚のポスター。
各ポスターは中田財団のAI安全解説とキャンペーンページから抜粋した。専門家滅亡確率の範囲、歴史的な条約の前例(核拡散防止条約、モントリオール議定書、化学兵器禁止条約)、そして拘束力のある超知能禁止への道筋は、本サイトの情報源と一致する。講演、授業、ブリーフィング、SNS投稿などで活用してほしい。
なぜ間違った目標を持つ有能なAIが、憎しみなく世界を終わらせることができるのか。
「なぜより賢いAIが自動的に安全または優しい目標を意味しないのか。」.
AIに指定するものと、人類が実際に必要とする結果との間のギャップ。
どうすれば、ミスアラインドなシステムが、離反が最適になるまであらゆる安全テストを通過できるのか。
人類が一見合理的な決定を積み重ねて制御を失う方法——ブレークアウトの瞬間なしに。
なぜ超知能をめぐる競争には、誰にも所有したり指揮したりできない勝者など存在しないのか。
核拡散防止条約、モントリオール議定書、CWCは、存在リスクに関する国際協調が可能であることを示している。
今日の競争から、拘束力のある超知能条約、監視、執行へ.
壊滅的なAIの結果に関する専門家の確率範囲—そして、小さな確率でもなぜ行動を必要とするのか。
拘束力のあるAI安全条約を支える連合を築くための具体的な役割。
再帰的自己改善と、人間レベルから回復不能までの窓が急速に閉じる理由。
表面的な安心 vs 超知能リスクの深いメカニズム。
← リソースに戻る
新しい解説、ツール、キャンペーン行動の開始時に更新を受け取る。