Ang nuclear weapon ay isang disenyo na nakabalot sa isang problemang materyal. Kailangan mo ng fissile material, karaniwang highly enriched uranium o plutonium mula sa reactor route, sa dami at kadalisayan na hindi basta-basta nahuhulog mula sa langit. Ang mga enrichment plant ay malalaki, gutom sa kuryente, at puno ng kagamitan na pitumpung taon nang natututunan ng mga serbisyo ng intelligence na makita. Hindi iyan ang buong kuwento ng non-proliferation, ngunit iyan ang bahaging ibinigay ng pisika nang libre.
Subukan nating isipin ang eksperimentong nilalaktawan ng slogan. Kapag madali lang gawin ang eksaktong pagsasaayos ng mga atomo para makabuo ng bomba. Kapag mura at dual-use ang mga input, at ibinebenta nang maramihan. Kapag madaling kopyahin ang tapos na disenyo tulad ng file. Ilang taon pa kaya tatagal ang sangkatauhan?
Hindi marami. Ang mga kasunduan ay mananatiling mahalaga. Gayundin ang mga pamantayan at takot. Sila ang gagawa ng lahat ng trabahong kasalukuyang ginagawa ng materials difficulty, sa sukat na hindi pa napamahalaan ng anumang enforcement system. Ang bahagyang tagumpay ng ikadalawampu siglo sa nuclear weapons ay hindi maintindihan nang wala ang friction sa supply chain. Swerte lang natin na mapili ang uranium.
Ano ang nakuha namin sa tigas
Siyam na estado ang kilalang may nuclear weapons. Ang bilang na iyan ay isang iskandalo at uri rin ng awa. Daan-daang estado ang may siyentipikong talento para maunawaan ang physics. Mas kaunti ang nakakumpleto sa industrial marathon sa ilalim ng sanctions, scrutiny, at gastos. Ang Non-Proliferation Treaty, export control regimes, at ang IAEA safeguards system ay lahat nakasandal sa isang simpleng katotohanan: ang bottleneck ay sapat na visible para bantayan.
Tanggalin mo ang bottleneck at hindi ka makakakuha ng medyo mas mahirap na suliraning diplomatiko. Makakakuha ka ng mundo kung saan ang marginal actor, isang manipis na estado, isang mayamang grupo, o isang hiwalay na utos, ay makakapag-hostage ng mga lungsod. Ang deterrence math na halos gumagana sa iilang matino na kapangyarihan ay hindi gagana sa dose-dosenang manlalaro na may mas maikling time horizon. Nakakatakot ang bomba. Ang madaling bomba ay ibang uri ng problema.
Hindi tayo nabubuhay nang ligtas sa madaling nuclear materials sa pamamagitan ng mas magagandang talumpati. Nabubuhay tayo nang ligtas sa mahirap na nuclear materials sa pamamagitan ng inspeksyon. Patungo na ang superintelligence sa madaling bersyon.
Aling direksyon ang tinatahak ng AI?
Ang frontier training ay nangangailangan pa rin ng seryosong pera, seryosong chips, at seryosong engineering. Ang cluster na sapat na malaki para itulak ang frontier ay isang pisikal na bagay sa isang gusali na may power bill.
Hindi katulad ng trend line ng uranium ang trend line na ito. Mas nagiging capable ang mga model sa bawat dolyar. Nagpapabuti ang mga teknik. Ang weights, kapag nasanay na, ay maaaring kopyahin nang halos walang gastos. Ang open releases at leaks ay nagpapalaganap ng kakayahan nang pahalang. Global ang talento. Wala sa mga ito ang nangangahulugang libre na ang superintelligence bukas ng umaga. Lahat ng ito ay tumuturo palayo sa accidental gift na nagbigay-daan sa nuclear non-proliferation: ang matigas na materials gate.
Ihambing nang tapat ang dalawang stack. Para makakuha ng pangalawang nuclear arsenal kailangan mo pa rin ng planta, feedstock, at oras sa ilalim ng teleskopyo. Para makakuha ng pangalawang kopya ng isang sinanay na model kailangan mo lang ng drive. Kung ang mapanganib na bagay ay ang agent at hindi ang warhead, pabor sa software pattern ang replikasyon, hindi sa isotope pattern. Kinikilala namin ang mga limitasyon ng metapora seryoso sa iba.
Ang maling aral at ang tamang isa
Ang maling aral ay fatalism: nagiging mas madali ang inputs, kaya walang pag-asa ang governance. Ito ang salamin ng slogan ng lab na tanging mas maraming capability lang ang makakapagligtas sa atin. Pareho nilang nilalaktawan ang panahon na nasa loob pa rin tayo, kung saan nakikita pa ang frontier runs at maliit pa ang bilang ng seryosong aktor.
Ang tamang aral ay pagkaapurahan tungkol sa kahirapan na kailangan nating likhain. Kung hindi mapananatiling makitid ng physics ang gate, dapat gawin ito ng batas at industry standards. Know-your-customer rules sa advanced chips. Reporting thresholds sa training runs. Audit rights. Hardware features na nagpapahirap itago ang malaking covert training. Isang treaty na nagsasabing hindi pinahihintulutang produkto ang superintelligence. Hindi makokontrol ang superintelligence. Ang NPT at ang burador ng modelong kasunduan ay mga pagtatangka na ilagay ang kahirapang iyon sa papel bago matapos ang pagbubukas ng madaling landas.
Isara ang eksperimento sa pag-iisip
Isipin ang pag-brief sa isang presidente noong 1960 gamit ang napatunayang disenyo at isang mundo kung saan ibinebenta ang bomb material tulad ng pataba. Lahat ng instinct sa silid ay sisigaw ng kontrol sa pinagmulan. Walang tatawag sa instinct na iyan na anti-science. Walang magsasabing ang sagot ay gumawa ng mas matalinong bomba para bantayan ang una.
Binubuo natin patungo sa isang kakayahang mas mahina ang natural materials gate kaysa sa bomba, habang sinasabi sa sarili natin na ang bilis ay kaligtasan. Hindi subtle ang thought experiment. Kung madaling gawin ang mapanganib na bagay, hindi makakakuha ng mulligan ang mundo. Gawin itong mahirap nang may layunin, habang available pa ang pagiging mahirap, o alamin kung ano ang pakiramdam ng madali nang walang fossil record ng mga survivor na puwedeng pagtalunan.