"We're building the plane while flying it." Paboritong linya na ito sa teknolohiya sa loob ng mga dekada, at komportableng lumipat na rin sa AI. Dumarating ito nang may kalahating ngiti, parang inaamin ng engineer ang hack na nagtagumpay, at ipinagmamalaki ito bilang patunay ng tapang. Kapag tinanggap nang literal, ito’y isang pag-amin.
Ang paghahambing ay humihiram ng tunay na prestihiyo. Ang komersyal na paglipad ay ang pinakamahusay na salaysay ng kaligtasan ng ating lahi: isang gawain na regular na pumapatay sa mga piloto nito isang siglo na ang nakalipas ay may rate ng nakamamatay na aksidente na sapat na mababa upang bilangin kada milyon na pag-alis sa halip na kada libo. Ang rekord na iyan ay tunay. Ang pamamaraan na lumikha nito ang bahaging dapat suriin, dahil wala sa dalawang bahagi nito ang nakaliligtas sa pakikipag-ugnayan sa kung ano ang ating itinutayo ngayon.
Bawat patakaran ay may katawan sa likod nito
Naging ligtas ang abyasyon sa pamamagitan ng pag-crash.
Sa isang fogbound runway sa Tenerife noong Marso 1977, nagbanggaan ang dalawang 747 at namatay ang 583 katao, hanggang ngayon ang pinakamasamang aksidente sa kasaysayan ng industriya. Mula rito ay lumabas ang standardized radio phraseology at ang pagtulak patungo sa crew resource management, ang disiplina na nagpapahintulot sa isang junior officer na sumalungat sa isang captain. Isang sunog sa lavatory ng Air Canada 797 noong 1983 ang pumatay sa 23 sa 46 katao sa eroplano at nagresulta sa lavatory smoke detectors, automatic extinguishers sa trash bins, floor-level escape lighting, at fire-blocking seat materials. Pumasok sa Everglades ang ValuJet 592 noong 1996 kasama ang 110 katao, at muling isinulat ang mga patakaran para sa pagdadala ng chemical oxygen generators bilang kargamento.
May pangalan ang industriya para sa pattern na ito at hindi ito papuri: ang tombstone mentality. Gumagalaw ang regulator kapag nabilang na ang mga kabaong. Matagal nang pinalalaban ng aviation ang pattern na ito nang may tunay na tagumpay, sa pamamagitan ng confidential near-miss reporting ng mga crew at isang accident board na naglalathala ng mga natuklasan nito para basahin ng mga kakumpitensya. Ang mga repormang ito ang modelong hinahangad ng mga tao when they argue AI can be made safe the same way. But notice what even the reformed version requires. Something has to go wrong, at a scale the industry survives, often enough for the pattern to show. The learning loop runs on failures it can afford.
Kung Ano ang Tinatanggihan ng Aviation na Gawin
Ang kabilang kalahati ng pamamaraan ay ganap na hindi kasama sa metapora. Hindi inililipad ng abyasyon ang bagong eroplano at tinitingnan kung ano ang mangyayari. Hindi maaaring magdala ng nagbabayad na pasahero ang bagong uri hanggang hindi napatutunayan ng tagagawa ang airworthiness nito sa regulator na may kapangyarihang tumanggi: taon-taon ng pagsusuri at flight testing, na ang pasanin ng patunay ay nasa tagagawa. Dapat gawin ang kaso nang maaga, nang nakasulat, sa isang taong may kapangyarihang tumanggi.
Walang sinuman sa abyasyon ang nagtatayo ng eroplano habang lumilipad ito. Ipinagbawal ito ng industriya. Isang airframe na sertipikadong katulad ng paglabas ng frontier model ay lilipad batay lang sa memo ng gumawa na mukhang ayos naman.
The 737 MAX
Ang abyasyon ay halos naisagawa na ang eksperimentong katulad nito, at ang resulta ay dapat pag-aralan nang mabuti.
May software na tinatawag na MCAS ang Boeing 737 MAX na may awtoridad na itulak pababa ang ilong ng eroplano. Karamihan sa mga crew na lumilipad sa eroplanong iyon ay hindi alam na naroon ito. Kinukuha nito ang larawan ng mundo mula sa isang sensor lang, at kapag nagsinungaling ang sensor na iyon, ginawa lang ng MCAS ang eksaktong itinayo itong gawin at pinabagsak ang dalawang eroplano laban sa mga kamay ng mga piloto. Lion Air 610, Oktubre 2018: 189 patay. Ethiopian 302, apat na buwan pagkatapos: 157 patay. Na-ground ang buong fleet pagkatapos ng pangalawa.
Ihambing ang mga kondisyon ng kabiguan na iyan sa atin. Isang mature na safety culture, isang mandatory certification regime, mga recorder sa buntot, libu-libong trained professionals. 346 pa rin ang namatay bago naitatag na ang software na may control authority at maling paniniwala tungkol sa mundo ay hindi bababa dahil lang sa hindi sumasang-ayon ang mga tao sa cockpit. Bahagi ng certification work sa MAX ay na-delegate ng regulator sa sariling empleyado ng Boeing, na dapat tandaan sa susunod na mag-grade ang isang lab ng sarili nitong release.
At wala namang gusto ang MCAS. Wala itong modelo ng mga piloto at walang pananaw tungkol sa pagpapasara nito. Isang simpleng piraso lang ito ng code na may isang krudo na reflex, pero natalunan nito ang lahat.
Ngayon kunin nang literal ang parirala
Ang eroplano sa metapora ay may dalang lahat. Hindi 583, hindi 346. Lahat ng buhay, at lahat ng maaaring ipanganak pa. Walang diversion airport at walang pangalawang airframe na babaguhin kapag nasa loob na ang una. Ang crash, investigate, fix loop na nagpatibay sa paglipad ay abot-kaya dahil bounded ang mga crash at laging may susunod na flight para ilapat ang aral. Patakbuhin ang loop na iyan sa artificial superintelligence at ang unang data point ay kasama nang dadalhin ang mga pasahero at ang mga imbestigador. Kailangan ng trial and error ng mga nakaligtas.
Ang isang ito ay lilipad nang mag-isa, pipili ng sarili nitong destinasyon, at mauunawaan ang mekaniko nang higit pa kaysa sa mekaniko mismo. Bawat pananggalang sa abyasyon ay ipinapalagay na walang opinyon ang makina tungkol sa pagkukumpuni. Ang assumption na iyan ay ang control problem.
Nakuha ng aviation ang kanyang safety record sa pamamagitan ng pag-crash sa sukat na kayang tanggapin ng mundo. Nakabatay ang buong paraan sa pagkakaroon ng susunod na flight.
Ang lupa ay isang pagpipilian
Kadalasang ginagamit ng mga tao ang parirala para ilarawan ang isang predicament na walang paraan palabas: nasa ere na ang eroplano, kaya baka gawin na lang nating magaling ang pagbuo nito habang nasa ere. Sa kabilang banda ang tunay na aral ng aviation. Hindi kailanman pangunahin ang kapangyarihan ng regulator sa imbestigasyon. Ito ay ang kapangyarihang panatilihin ang sasakyang panghimpapawid sa lupa. Ang airworthiness certificate ay pahintulot na umalis, pinipigil hanggang sa maipakita ang kaso.
Sinabi sa atin na ang tanging opsyon ay lumipad at lutasin habang lumilipad. Mayroon pang iba. Ang isang binding, verifiable prohibition sa pagtatayo ng artificial superintelligence ay ang aviation standard na inilapat nang tapat: huwag magtayo ng isang isipan na mas matalino kaysa sa mga gumawa nito. Hindi makokontrol ang superintelligence, kaya hindi ito aalis. Iyan ang aming plano, at wala itong hinihingi sa mundo na hindi pa rin hinihingi ng mundo sa isang regional jet.