Ang singularity, sa physics, ay isang punto kung saan sumasabog ang isang dami at humihinto ang mga equation na ginagamit mo sa pagbibigay ng makatwirang sagot. Ang sentro ng black hole ang karaniwang halimbawa. Hiramin ang salita para sa teknolohiya at makakukuha ka ng technological singularity: isang hypothesized na punto kung saan ang machine intelligence ay nagpapabilis ng pagbabago nang napakabilis at napakalalim kaya nasisira ang kakayahan nating mahulaan o maunawaan pa ang susunod na mangyayari.

Ito ay pahayag tungkol sa isang horizon, lampas sa kung saan ang bilis ng intelligence-driven na pag-unlad ay lumalampas sa pag-unawa ng tao, hindi isang claim na darating ang isang partikular na gadget.

Saan nanggaling ang ideya

The lineage is worth knowing, because the term gets used loosely. The mathematician John von Neumann was paraphrased in the 1950s musing that technological progress was approaching some essential singularity in history. In 1965 I.J. Good described the pagsabog ng katalinuhan, ang mekanismong inaasahan ng karamihan sa mga bersyon ng singularity. Binigyan ng science-fiction author at mathematician na si Vernor Vinge ng pangalan at puwersa ang modernong ideya sa isang sanaysay noong 1993, na nangatwiran na ang paglikha ng greater-than-human intelligence ay magiging sanhi ng pagkabasag ng tela ng predictable history. Pagkatapos ay pinalaganap ito ni inventor Ray Kurzweil sa malawak na madla, na naglagay ng singularity sa paligid ng 2045 at isinama ang mas malawak na kuwento tungkol sa exponential technological trends.

Iba't ibang claim ang mga iyon na nagsusuot ng iisang salita, na bahagi ng dahilan kung bakit umaakit ang singularity ng parehong debosyon at eye-rolling.

Ang makina sa ilalim

Tanggalin ang mga palamuti at ang pangunahing mekanismo ay simple. Kung makakagawa ka ng makina na mas mahusay kaysa sa mga tao sa paggawa ng mga makina, kasama na ang pagpapabuti ng sarili nitong katalinuhan, kung gayon ang pagpapabuti ay nagpapakain sa sarili nito. Bawat mas matalinong sistema ay mas mahusay sa paggawa ng susunod, at ang bilis ng pag-unlad ay tumataas sa halip na manatiling pareho. Patakbuhin ang loop na iyan at ang kakayahan ay maaaring tumaas mula sa antas ng tao hanggang sa higit pa sa napakaikling panahon.

Ang intelligence explosion ang tunay na nilalaman sa likod ng karamihan sa seryosong paggamit ng singularity. Ang prediksyon ng hindi mahuhulaan ay bunga nito: kapag ang mga system ay nagpapabuti sa sarili nila sa bilis ng makina, ang trajectory ay lumalabas sa saklaw kung saan gumagana ang human forecasting. Tinatalakay natin ang mekanismong iyan nang buo sa kanyang sariling paliwanag, at doon matatagpuan ang laman nito.

Ang mga puna

  • Maaaring tumama ang self-improvement sa matitinding limitasyon. Maaaring tumigil ang katalinuhan sa diminishing returns, data bottlenecks, o pisikal na hadlang na nagpapantay sa kurba sa isang steady climb sa halip na isang pagsabog.
  • Malabo ang konsepto. Iba’t ibang proponent ang may ibang kahulugan, at ang mga grandeng bersyon ala-Kurzweil ay may kasamang tiyak na petsa at halos mistikal na tono na nagdudulot ng pagdududa.
  • Nababago ang exponential trends. Ang mga kurba na mukhang sumasabog ay madalas na unang bahagi lang ng S-shape na unti-unting bumababa.

Makatarungan ang mga ito, at wala sa mga ito ang nangangailangan na mali ang singularity kundi hindi tiyak. Ang pagkakamali ay ituring ang pagdududa sa isang dramatikong, pinangalanang pangyayari na parang nawala na ang pinagbabatayan na panganib.

Bakit mas mahalaga ang mekanismo kaysa sa label

Maaari mong tanggihan ang salitang singularity nang buo, kasama ang amoy ng propesiya at eksaktong petsa nito, at maiiwan ka pa rin sa bahaging mahalaga para sa patakaran. Ang seryosong tanong ay kung mabilis na makakapagpabuti ang machine intelligence nang higit sa ating kakayahang magsupervise o mamahala, hindi kung may mystical na sandali noong 2045. Ito ay pahayag tungkol sa mga timeline at bilis ng takeoff, at hindi nito kailangan ang malaking pag-frame para maging nakakaalarma.

Iwanan mo ang salita kung gusto mo. Ang problema na tinuturo nito, isang transisyon na masyadong mabilis para mapamahalaan, ay hindi nangangailangan ng salita para maging totoo.

Ang concern ng Foundation ay ang partikular, deflated na bersyong iyan. Kung ang pagtakbo patungo sa vastly superhuman AI ay maaaring mabilis, kung gayon ang tanging maaasahang panahon para bumuo ng governance at mapanatili ang kontrol ay bago pa ito magsimula, habang tao pa rin ang nagdedesisyon. Ang presyur ng kompetisyon para mauna lang sa threshold na iyan ay nagpapaliit lang sa runway. Kahit tawagin mo itong singularity sa kabilang panig, pareho lang ang tugon, at ito ay aming plano.

Ang singularity ay hindi dapat mangyari kailanman

Ang posisyon ng Foundation ay pagbabawal, hindi prediksyon. Hindi makokontrol ng tao ang superintelligence. Ang abot-tanaw na tinutukoy ng salitang ito ay isang takeoff na lampas sa punto kung saan tayo pa rin ang nagpapasya. Ito ang parehong pagtawid tulad ng pagbuo ng superintelligence. Hindi dapat mangyari ang singularity.