Dalawang daang milyong posisyon bawat segundo. Iyan ang bilis na pinroseso ng IBM's Deep Blue sa chess nang talunin nito si Garry Kasparov noong Mayo 1997. Patuloy kong binabalikan ang laban dahil ito ay malinaw na modelo kung paano natin mali ang pagbabasa sa mga makina, noon at ngayon, at mas marami pang nakataya sa sagot. Natalo si Kasparov sa isang makina na hindi kayang sabihin sa iyo na naglalaro ito ng chess. Ang pag-unawa kung bakit totoo iyon, at kung bakit hindi nito ginawang mapanganib ang makina, ay mas mahalaga kaysa sa karamihan ng isinulat tungkol sa model na inilabas noong nakaraang linggo.
Si Garry Kasparov, ang pinakamalakas na manlalaro ng kanyang henerasyon, at sa ilang pagtataya ng anumang henerasyon, ay natalo sa isang programang tinatawag na Deep Blue, tatlo at kalahati puntos laban sa dalawa at kalahati. Ang mga headline kinabukasan ay tungkol sa isang pagtatapos: natapos na ang supremacy ng tao. Halos tatlumpung taon na ang lumipas, ang laban ay mayroon pa ring maituturo, at ito ay halos kabaligtaran ng sinabi ng mga headline na iyon.
Isang makina na higit sa tao sa eksaktong isang bagay lamang
Hindi naisip ni Deep Blue ang chess tulad ni Kasparov. Naghanap ito. Ginawa ng IBM para sa partikular na layunin, sinuri nito ang humigit-kumulang 200 milyong posisyon bawat segundo at pinagdaanan ang bawat isa sa evaluation function na itinakda ng mga engineer nito sa tulong ng mga grandmaster. Mas malayo ang tiningnan nito kaysa sa sinumang tao at nilalaro ang linya na may pinakamagandang score. Iyon lang ang lahat.
Ang hindi nito magawa ay halos lahat ng iba pa. Hindi nito mapaglaruan nang maamo ang isang bata. Hindi nito mapaglaruan ang checkers, o basahin ang orasan, o hanapin ang isang chessboard sa isang litrato. Hindi nito alam na nanalo ito. Nang matapos ang laban, pinatay ito ng IBM at kalaunan ay binuwag, at hindi ito lumaban, dahil walang sinuman sa loob na lalaban. Ang Deep Blue ay isang magandang instrumento na nakatutok sa isang bounded na problema. Isang pulgada sa labas ng problemang iyon ay walang buhay ito.
Hawakan mo ito. Isang makina ang tumawid sa superhuman na teritoryo noong 1997, at hindi bumagsak ang langit. Hindi namatay ang chess. Mas sikat pa ito ngayon kaysa sa anumang punto sa kasaysayan nito. Ligtas ang tagumpay dahil ang Deep Blue ay napakalakas, dahil ang lakas nito ay walang abot lampas sa gilid ng board at walang kalooban sa likod nito. Ang parehong dahilan kung bakit ang mga narrow tools na nagbabago ngayon ng medisina at agham ay isang regalo sa halip na banta ay ang kaso na mahaba kong ipinaliwanag sa isang hiwalay na sanaysay tungkol sa hinaharap na puwede nating makuha nang wala ang superintelligence.
Nagkamali tayo nang isiping calculation ay intention
May isang sandali mula sa unang laro na palaging nananatili sa akin. Nanalo si Kasparov sa larong iyon, ngunit sa loob nito ay gumawa si Deep Blue ng isang galaw (ang ika-44 nito) na walang halatang kahulugan. Pinag-aralan ito ni Kasparov at napagpasyahan niya na nakikita niya ang isang bagay na banayad, isang plano na umaabot nang higit sa kanyang masundan. Naistorbo siya. Nagsimula siyang maghinala na walang simpleng programa ang makakapaglaro nang ganoon, na may isang human grandmaster na nagpapakain ng mga galaw sa makina mula sa likod ng kurtina.
Ayon sa mga gumawa nito, isang bug ang galaw na iyon. Dahil hindi makapagdesisyon kung ano ang gusto niya, bumalik si Deep Blue sa default at naglaro ng halos ingay lang. Ang pinakamahusay na chess mind na buhay ay tumingin sa isang glitch at nakakita ng henyo na tumitingin pabalik. Hindi na niya lubos na narecover ang tindig niya, at sumunod sa kanya ang hinala sa buong laban.
Nakaugalian nating makakita ng isip saanmang may behavior na hindi namin maipaliwanag. Hindi kailangang matalino ang makina; kailangan lang naming kumbinsihin na ito ay matalino.
Tingnan kung paano ito direktang nagmamapa sa ngayon. Ang mga sistema ngayon ay gumagawa ng fluent, confident, human-sounding na wika, at binabasa natin ang comprehension sa fluency sa parehong paraan na binasa ni Kasparov ang strategy sa fault. Ang pakiramdam na may tao sa loob ay malakas. Ito ay higit na projection. Ito ang eksaktong mekanismo kung saan ibinibigay natin ang tiwala na hindi natin talaga nasuri. Kung naiintindihan ng mga sistemang ito ang anumang bagay, kumikilos tayong parang may unawa ang mga makina. Ang reflex ay hindi bago. Ito ay nakaupo sa harap ng board kasama si Deep Blue noong 1997, at maaari mong hiwalayin ang dalawang tanong sa parehong paraan.
Nabiyak ang kampeon. Wala namang naramdaman ang makina.
Hindi lang dahil sa kalkulasyon ng Deep Blue natalo si Kasparov. Bahagi rin ito ng kanyang sariling nervous system. Sa ikalawang laro ay nag-resign siya sa isang posisyon na ipinakita ng susunod na pagsusuri na draw. Napakatiwala niya na nakakita pa ng mas malayo ang makina kaysa sa aktwal nitong nakita kaya sumuko siya sa isang laro na maaari niyang mapanatili. Sa huling laro ay sobrang gulat na siya kaya diretso siyang pumasok sa isang kilalang bitag sa opening, isang piece sacrifice na makikita niya sa anumang kalmadong hapon, at natapos ito sa labing-siyam na galaw.
Wala namang nararamdaman ang makina. Walang ego na masasaktan, walang press conference na katatakutan, walang masamang laro na dadalhin sa susunod. Permanenteng asymmetry iyan, at hindi talaga tungkol sa chess. Kapag nakikipagkumpitensya o umaasa ang isang tao sa isang walang sawang sistema na hindi kailanman nagdududa sa sarili, ang unang madalas na bumigay ay ang tao: ang composure, ang judgment, ang nerve. Anumang tapat na paglalarawan ng pamumuhay kasama ang mga tool na ito ay kailangang harapin ang kahinaan sa ating panig ng mesa, hindi lang ang horsepower sa kanila.
Mali ang lahat ng prediksyon, sa magkabilang direksiyon
Sa loob ng mga dekada, sinabi ng mga seryosong tao na hindi pa matatalo ng computer ang world champion sa mahabang panahon, at kapag nangyari na ito, kailangan nito ng tunay na pag-unawa. Parehong bahagi ng pahayag na iyan ang naging mali. Dumating ito nang mas maaga kaysa sa mga tiyak na hula. At dumating ito nang walang anumang pag-unawa. Brute-force search ang unang nakarating.
Two lessons fall out of that, and they point in opposite directions, which is why people tend to keep one and quietly drop the other. Una: ang mga capability milestones ay may posibilidad na mangyari nang mas maaga kaysa sa inaasahan ng mga eksperto, kaya isang pagkakamaling nagawa na natin nang isang beses, sa publiko, ang pagtaya sa comfortable timelines. Pangalawa: ang pagbagsak ng isang milestone ay mas kaunti ang sinasabi nito tungkol sa pagdating ng isang isipan kaysa sa nararamdaman mo. Ang panalo ng Deep Blue ay isang katotohanan tungkol sa search at silicon, hindi isang pagsikat ng machine thought. Totoo ang dalawa nang magkasama. Maaaring mas mabilis ang progreso kaysa sa iniisip mo at mas mababaw kaysa sa hitsura nito sa parehong taon, dapat tandaan kapag binabasa mo ang susunod na round ng mga hula tungkol sa kung saan patungo ang lahat ng ito.
Ang isang pagkakaiba na nagbabago sa lahat
Dito na hindi na nakaaaliw ang 1997 at nagiging babala na. Halos lahat ng nagpatibay sa kaligtasan ng Deep Blue ay katangian na sinasadya nating inaalis sa ating mga makina ngayon.
Makitid. Isang bagay lang ang ginawa, at wala nang iba.
Walang sariling goals. Naghintay lang na bigyan ng tungkulin at ginawa lang ang hiningi.
Naka-off at binuwag sa huli nang walang protesta, dahil wala itong anumang bagay na mas gusto pang patuloy na tumakbo.
Hindi umabot ang lakas nito lampas sa board.
General. Inilaan upang kumilos sa bawat domain nang sabay-sabay.
Binigyan ng open-ended na mga layunin at patuloy na mas maraming awtonomiya para ituloy ang mga iyon.
Expected to plan and act in the world with less and less human oversight and, by the logic of instrumental convergence, given reason to resist being switched off.
Walang gustong gusto ang Deep Blue, kaya't ito ay maaaring i-unplug. Ang sistema na may sariling goal ay may dahilan para manatiling tumatakbo, dahil hindi nito matatapos ang trabaho kung may makarating sa switch. Ito ay malinaw na bunga ng pagbuo ng bagay na nagpupursigi ng isang layunin, at may pangalan ito, pagsasama ng mga layuning instrumental. Ang sandaling tumawid tayo mula sa mga tool na sumasagot patungo sa mga agent na may gusto, ang komportableng aral ng 1997 ay nagwawakas.
Ano ang ginawa ni Kasparov pagkatapos
Ang coda ang pinakamapag-asa na bahagi, at madalas itong hindi isinama. Hindi nagmukmok si Kasparov sa mga sumunod na taon tungkol sa makina. Sa loob ng isang taon, itinataguyod niya ang bagong format, na tinatawag minsan na advanced chess, kung saan ang isang tao na nakipag-partner sa computer ay naglalaro laban sa isa pang ganoong pares. Ang lumabas ay kapansin-pansin: ang pinakamalakas na kakumpitensya sa board ay hindi ang pinakamahusay na grandmaster o ang pinakamahusay na engine, kundi ang may kakayahang tao na mahusay gumamit ng makina. Hindi pinalitan ng kasangkapan ang manlalaro. Pinalaki niya ito.
Ang future worth wanting ay inaalok ngayon mismo: sa medisina, sa lab, sa ordinaryong trabaho, ang human judgment na pinalawak ng narrow, controllable tools na walang sariling agenda. Iba itong proyekto sa ginagawa ng frontier labs, na nagtatayo ng autonomous general mind na hindi na nangangailangan ng tao sa board. Ang unang uri ng proyekto ay nagpapalaki sa atin. Ang pangalawa ay dinisenyo upang gawing hindi na kailangan ang ating pag-iral, at ang isang system na hindi na nangangailangan sa atin ay isang bagay na mas mabuting tiyakin nating maaari pa rin nating i-switch off. Ang katiyakang iyan ay eksaktong hindi pa umiiral, na siyang ang banta at ang dahilan para sa ang planong itinutulak namin.
Noong 1997 ay nagdaos tayo ng pampublikong rehearsal para sa tanong na ngayon ay nasa gitna ng lahat: ano ang gagawin natin kapag gumawa tayo ng makina na mas mahusay kaysa sa atin? Nagbigay si Deep Blue ng banayad na sagot, dahil ito ay tool lamang. Ang tool na walang kalooban ay maaaring talunin ang world champion at hindi maapektuhan ang iba pang bahagi ng mundo. Ang susunod na sagot ay hindi magiging banayad bilang default. Ito ay nakasalalay sa kung ang bagay na itinayo natin ay mas pinong instrumento o isang kahalili na may sariling mga layunin. Dapat nating gawin ito nang may intensyon, habang nasa atin pa ang kakayahang gawin ito.
Ang pinakamalakas na pagtutol
Ang pinakamabuting pagtutol ay na pinatutunayan ng Deep Blue na ang superhuman performance ay maaaring ligtas at narrow, kaya ang takot sa AI ay nostalgia. Walang gustong gusto ng Deep Blue. Ang kasalukuyang landas ay generality plus agency plus self-improvement pressure. Ang pagtalo sa isang kampeon sa chess ay hindi parehong uri ng panganib tulad ng sistema na maaaring outplan ang mga institusyon.