Ang Plano ni Baruc: Isang Babala Para sa ASIE Governance | Nakada Foundation to Save Humanity

The Baruch Plan was a 1946 United States proposal to the United Nations to place atomic energy under international control. An international authority would control the mining, materials, and technology of atomic power worldwide, inspect for violations, and ensure the science was used peacefully, after which the United States, then the only nuclear power, would give up its weapons. It was an offer by the sole atomic power to surrender its monopoly to international control, and it was not adopted.

Ang Plano ni Baruc: Isang Babala Para sa ASIE Governance | Nakada Foundation to Save Humanity

For several linked reasons. It required the Soviet Union to accept intrusive inspection and forgo its own weapons program while the United States kept its bombs until the system was working, which Moscow would not accept. It proposed removing the great-power veto for atomic matters so violations could be punished, which the Soviet Union rejected as a threat to its security. And the arms race had effectively already begun, so governance was chasing a competition that was already underway.

Ang Plano ni Baruc: Isang Babala Para sa ASIE Governance | Nakada Foundation to Save Humanity

The situations rhyme. A transformative and dangerous technology emerges; for a short period the set of players is small and the situation is still governable in principle; a proposal exists to bring it under collective control before an unrestrained race locks in; and the effort runs into mutual distrust, the difficulty of verified enforcement, and a competition that is already moving. That structural resemblance is why the Baruch Plan is frequently cited as a cautionary precedent in debates about governing AI.

Ang Plano ni Baruc: Isang Babala Para sa ASIE Governance | Nakada Foundation to Save Humanity

No. It carries two lessons. One is about timing: the plan failed partly because it came slightly too late, after distrust had hardened and both sides had committed to the race, which shows that the window to govern a technology is widest before competition is entrenched and then closes. The other is about design: it foundered on the 1946 inability to verify and enforce compliance, exactly the problem that modern verification tools exist to solve and that later arms-control treaties did solve. The plan showed which problems must be addressed, and that they must be addressed early, rather than proving governance impossible.

Ang Plano ni Baruc: Isang Babala Para sa ASIE Governance

Ang Baruch Plan ng 1946 at ang mga Aral Nito para sa AI

Sandaling pagkakataon lang ang mayroon ang mundo noong 1946 para ilagay sa sama-samang kontrol ang pinakamapanganib na teknolohiyang naimbento bago pa nagsimula ang karera sa armas. Hinayaan lang nilang lumipas ang sandaling iyon. Hindi nakapapagbigay-aliw ang pagkakatulad.

Noong 1946, ang Estados Unidos lamang ang may nuclear weapons, at sa maikling panahon ay tila posible na walang ibang bansa ang kailanman magtatayo nito. Noong Hunyo, iniharap ng Amerikanong financier na si Bernard Baruch ang isang plano sa bagong nabuong United Nations. Ang atomic energy, sa lahat ng mapanganib nitong anyo, ay ilalagay sa ilalim ng isang international authority. Ang katawan na iyon ang mamamahala sa pagmimina, mga materyales, at teknolohiya sa buong mundo, mag-iinspeksyon para sa mga paglabag, at titiyakin na ang agham ay gagamitin para sa kapangyarihan at hindi para sa mga bomba. Kapag naitatag na ang sistema, ibibigay ng Estados Unidos ang atomic arsenal nito.

Sa papel, ito ay isang pambihirang alok: ang tanging nuclear power na nagmumungkahi na isuko ang monopolyo nito sa internasyonal na kontrol sa halip na pagsamantalahan ito. Nabigo ito. Sa loob ng ilang taon, nakuha na ng Soviet Union ang bomba, at ang arms race na sinubukang pigilan ng plano ay tumagal nang apat na dekada at hindi talaga natapos.

Bakit ito bumagsak

Ang kabiguan ay hindi dahil walang nagmamalasakit. Ito ay dahil sa mga kondisyon na dapat matugunan ng governance ng isang strategic technology, mga kondisyong hindi kayang matugunan ng Baruch Plan.

Tiwala at pagkakasunod-sunod. Ang plano ay nangangailangan na tanggapin ng Soviet Union ang intrusive international inspection at talikuran muna ang sarili nitong weapons program, habang pinapanatili ng United States ang mga bomba nito hanggang sa ganap na gumana ang sistema. Ang Moscow, hindi nakakagulat, ay hindi tatanggap ng isang scheme na nagla-lock in ng American advantage sa panahon ng transition.
Pagpapatupad at ang veto. The plan proposed removing the great-power veto for atomic matters, so violations could be punished. The Soviet Union, unwilling to be outvoted on its own security, refused. Real enforcement and national sovereignty collided, the same tension examined in our piece on the pagtutol sa soberanya.
Nagsimula na ang karera. Kahit habang pinagdedebatehan ang plano, parehong hinahabol ng dalawang kapangyarihan ang underlying capability. Hinahabol ng governance ang isang kompetisyon na nagsisimula na.

Ang mga pagkakatulad sa AI, maingat na sinabi

Hindi komportable ang pagkakahawig. Dumating ang isang transformative at dangerous technology. Sa maikling panahon, maliit ang field ng players at sa prinsipyo ay governable pa ang sitwasyon. May proposal na dalhin ang teknolohiya sa ilalim ng collective control bago ang unrestrained race ay mag-lock in. At ang pagsisikap ay tumatakbo sa mutual distrust, ang kahirapan ng verified enforcement, at isang race na nasa galaw na. Palitan ang atomic ng AI at pamilyar ang hugis, kaya naman hinahantong ng Baruch Plan ang seryosong diskusyon tungkol sa ASI governance.

Ang Baruch Plan ay kwento ng isang window na sandaling bukas, at pagkatapos ay hindi na. Ang aral ay tungkol sa timing.

Dalawang aral, hindi isa

Ang madaling basahin ay pag-asa: sinubukan ang internasyonal na kontrol sa isang estratehikong teknolohiya sa pinakamagandang panahon at nabigo, kaya bakit pa umaasa sa mas mabuti para sa AI. Hindi kumpleto ang ganitong pagbasa.

Ang unang tunay na aral ay tungkol sa window. Nabigo ang Baruch Plan partly dahil medyo huli na ito, matapos tumigas ang distrust at nakapag-commit na ang magkabilang panig sa karera. Pinakamalawak ang window para sa pamamahala ng isang teknolohiya bago pa man tumibay ang kompetisyon, at ito ay nagsasara. Para sa AI, ngayon ang window na iyon, hindi pagkatapos na tuluyang maitatag ang karera, at ito ang urgency sa likod ng lahat ng ginagawa ng Foundation.

Ang pangalawang aral ay tungkol sa disenyo. Nabigo ang Baruch Plan dahil sa verification at enforcement, dahil sa imposibilidad, noong 1946, na pagkatiwalaan ang compliance nang walang paraan para i-check ito. Iyan mismo ang problema na tinutugunan ng modernong tools, mula sa mga rehimen ng pag-verify sa hardware-based monitoring, umiiral para lutasin, at kaya naman nagtagumpay ang mga susunod na arms-control treaties pagkatapos mabigo ang Baruch Plan kung saan hindi nito nagawa. Hindi napatunayan ng plano na imposible ang governance. Ipinakita nito kung aling mga problema ang kailangang lutasin, at na dapat itong lutasin nang maaga. Ang sagot namin sa pareho ay aming plano.

Mga karaniwang tanong.

Ano ang Baruch Plan?

Ang Baruch Plan ay isang 1946 United States proposal sa United Nations na ilagay ang atomic energy sa ilalim ng international control. Ang isang international authority ang magkokontrol sa pagmimina, materyales, at teknolohiya ng atomic power sa buong mundo, mag-iinspeksyon para sa mga paglabag, at titiyakin na ang agham ay ginagamit nang mapayapa, pagkatapos nito ay isusuko ng United States, na noon ay ang tanging nuclear power, ang mga armas nito. Ito ay isang alok ng tanging atomic power na isuko ang monopolyo nito sa international control, at hindi ito pinagtibay.

Bakit nabigo ang Baruch Plan?

Ilang magkakaugnay na dahilan. Kinailangan nitong tanggapin ng Soviet Union ang intrusive inspection at talikuran ang sarili nitong weapons program habang pinapanatili ng United States ang mga bomba nito hanggang sa gumana ang sistema, na hindi tatanggapin ng Moscow. Iminungkahi nitong alisin ang great-power veto para sa mga usaping atomiko upang maparusahan ang mga paglabag, na tinanggihan ng Soviet Union bilang banta sa seguridad nito. At epektibong nagsimula na ang arms race, kaya hinahabol ng pamamahala ang isang kompetisyon na nagsimula na.

Ano ang kinalaman ng Baruch Plan sa AI?

Nagkakatugma ang mga sitwasyon. Isang transformative at dangerous na teknolohiya ang lumilitaw; sa maikling panahon ang bilang ng mga manlalaro ay maliit at ang sitwasyon ay nasa prinsipyo pa ring mapamamahalaan; mayroong panukala na dalhin ito sa ilalim ng collective control bago pa mag-lock in ang isang unrestrained race; at ang pagsisikap ay tumatakbo sa mutual distrust, ang kahirapan ng verified enforcement, at isang kompetisyon na gumagalaw na. Ang structural resemblance na ito ang dahilan kung bakit madalas na binabanggit ang Baruch Plan bilang isang cautionary precedent sa mga debate tungkol sa pamamahala ng AI.

Ang Baruch Plan ba ay dahilan lamang para sa pesimismo tungkol sa AI?

Hindi. May dalawang aral ito. Isa ay tungkol sa timing: bahagyang nabigo ang plano dahil dumating ito nang medyo huli na, matapos tumigas ang distrust at nakatuon na ang dalawang panig sa karera, na nagpapakita na ang window para pamahalaan ang isang teknolohiya ay pinakamalawak bago pa man ma-entrenched ang competition at pagkatapos ay nagsasara. Ang isa ay tungkol sa disenyo: nabigo ito dahil sa kawalan ng kakayahang i-verify at i-enforce ang compliance noong 1946, eksaktong problemang nilulutas ng modernong verification tools at nalutas ng mga susunod na arms-control treaties. Ipinakita ng plano kung aling mga problema ang dapat tugunan, at na dapat itong tugunan nang maaga, sa halip na patunayan na imposible ang governance.

Ang Baruch Plan ng 1946 at ang mga Aral Nito para sa AI

Bakit ito bumagsak

Ang mga pagkakatulad sa AI, maingat na sinabi

Dalawang aral, hindi isa

Mga karaniwang tanong.

Magbasa pa

Mga window para kumiloshindi nananatiling bukas.

Mga window para kumilos
hindi nananatiling bukas.