Je li umjetna superinteligencija prijetnja čovječanstvu?

Stephen Hawking upozorio je da bi neovisna evolucija umjetne inteligencije mogla označiti kraj čovječanstva.

---

Umjetna inteligencija (UI) ne samo da oblikuje naš svakodnevni život na tisuće različitih i često suptilnih načina, već postavlja i temelje za budućnost na načine koje tek počinjemo shvaćati. Od revolucionarnih dostignuća u medicinskim dijagnozama, preko optimizacije lanaca opskrbe u industriji, do personaliziranog obrazovanja i umjetnosti – potencijal umjetne inteligencije za transformaciju društva je ogroman. U svakom kutku našeg postojanja, od domova do globalnih tržišta, UI pronalazi nove primjene, često premašujući očekivanja.

Međutim, unatoč brzom napretku i sveprisutnosti, naš kolektivni razumijevanje kako najbolje iskoristiti, upravljati i integrirati umjetnu inteligenciju u tkivo našeg društva tek je u začetku. Kako se tehnologija razvija eksponencijalnom brzinom, ključno je razumjeti ne samo kako umjetna inteligencija može poboljšati naš život, već i kako se suočiti s izazovima koje predstavlja, poput etičkih dilema, sigurnosnih rizika i utjecaja na tržište rada. Ovo je tek početak ere u kojoj će umjetna inteligencija ne samo služiti čovječanstvu, već i oblikovati način na koji definiramo ljudsku inteligenciju, kreativnost i interakciju.

No, tek smo na početku puta razumijevanja njezinog potencijalnog razvoja. Kako prenosi Evan Gough za Universe Today, postavlja se pitanje možemo li uopće predvidjeti brzinu njezina napretka i što ako ne možemo – da li to predstavlja takozvani Veliki filter?

Prednosti i prijetnje umjetne (super) inteligencije

Fermijev paradoks ilustrira ovaj nesklad između visoke vjerojatnosti postojanja naprednih civilizacija i potpune odsutnosti dokaza o njihovom postojanju. Među mnogobrojnim teorijama koje pokušavaju objasniti ovaj paradoks, pojavila se ideja o ‘Velikom filteru‘ – hipotetskom događaju ili prepreki koja onemogućava inteligentnim vrstama da postanu međuplanetarne ili međuzvjezdane civilizacije, dovodeći ih čak i do mogućeg nestanka. Ova ideja obuhvaća spektar katastrofičnih događaja, od klimatskih promjena i nuklearnog rata do udara asteroida i pandemija.

No, može li ubrzani razvoj umjetne inteligencije biti taj Veliki filter? Novo istraživanje objavljeno u časopisu Acta Astronautica bavi se tezom da transformacija umjetne inteligencije u umjetnu superinteligenciju (USI) predstavlja taj presudni Veliki filter. Autor studije, Michael Garrett s Odjela za fiziku i astronomiju na Sveučilištu u Manchesteru, upozorava: “Bez praktične regulacije, umjetna inteligencija bi mogla predstavljati ozbiljnu prijetnju budućnosti ne samo naše tehničke civilizacije već i svih tehničkih civilizacija.”

Pretpostavka da Veliki filter sprječava tehnološki razvijene vrste poput naše da postanu višeplanetarne ukazuje na povećan rizik od izumiranja ili stagnacije civilizacija ograničenih na jedan planet. Garrett naglašava da bi, bez ‘planeta B’, civilizacije mogle imati ograničen vijek trajanja, predloživši da “tipična dugovječnost tehničke civilizacije možda ne premašuje 200 godina.”

Ova hipoteza može pružiti odgovor na izostanak dokaza o postojanju izvanzemaljskih inteligencija (Extraterrestrial intelligences – ETI) i potiče na razmišljanje o vlastitoj tehnološkoj budućnosti. Ako je ograničenje od 200 godina rezultat razvoja USI, što to znači za naš put?

Garrett ističe “kritičnu potrebu za brzim uspostavljanjem regulatornih okvira za umjetnu inteligenciju na Zemlji i razvoj višeplanetarnog društva kao mjere predostrožnosti protiv ovakvih egzistencijalnih prijetnji.” Uistinu, stojimo na pragu ogromnih promjena. Umjetna inteligencija nije samo počela mijenjati način na koji obavljamo poslove, većina te transformacije događa se izvan našeg neposrednog vidokruga. UI se čini spremnom zamijeniti milijune poslova, a u kombinaciji s robotikom, njezin potencijal za transformaciju čini se gotovo neograničenim. I dok su ekonomske implikacije očite, postoje i dublje, sistematske zabrinutosti.

Koja je uloga algoritama? Hoće li umjetna inteligencija na bilo koji način pokazivati pristranost? To je gotovo neizbježno. Postoji li opasnost da se natjecateljski algoritmi sukobe s temeljima moćnih demokratskih društava? Možemo li očekivati da otvorena društva ostanu otvorena u takvom kontekstu? I, možda najvažnije, što ako umjetna superinteligencija počne donositi odluke umjesto nas – tko će tada snositi odgovornost?

Kada UI preraste ljudske sposobnosti, prelazi u domenu umjetne superinteligencije

Ova se tematika razvija poput širokog stabla s brojnim granama pitanja koja ne vode ka jasnom zaključku. Stephen Hawking upozorio je da bi neovisna evolucija umjetne inteligencije mogla označiti kraj čovječanstva. “Bojim se da bi umjetna inteligencija mogla potpuno zamijeniti ljude. Ako ljudi mogu stvoriti računalne viruse, netko će kreirati umjentu inteligenciju koja se samostalno poboljšava i replicira. To bi bila nova vrsta života, superiorna ljudima,” izjavio je za Wired 2017. Kada UI preraste ljudske sposobnosti, prelazi u domenu umjetne superinteligencije. Hawkingova upozorenja odjekuju među mnogima, ali on nije jedini koji izražava zabrinutost. Medijski prostor prepun je rasprava i upozorenja o UI, uz napomene o korisnosti koju pruža. Najdramatičnija upozorenja sugeriraju da bi umjetna superinteligencija mogla izmaknuti kontroli. Iako neki smatraju to znanstvenom fantastikom, Garrett se ne slaže. “Zabrinutost za potencijalno nekontroliranu umjetnu superinteligenciju (USI) smatra se velikim izazovom. Borba protiv te mogućnosti postaje ključno istraživačko polje,” navodi Garrett.

Da UI ne nudi nikakve prednosti, dilema bi bila jednostavnija. No, umjetna inteligencija unapređuje sve, od medicinske dijagnostike do sigurnosti u prometu. Izazov za vlade leži u omogućavanju koristi umjetnu inteligenicju uz minimiziranje štete. “Ovo je osobito važno u područjima kao što su nacionalna sigurnost i obrana, gdje bi odgovoran i etički razvoj trebao biti prioritet,” ističe Garrett. Sveprisutni problem je nedostatak pripremljenosti od strane nas i naših vlada. Nikada prije nismo se susreli s nečim sličnim umjetnom inteligencijom, a naši pokušaji da shvatimo i predvidimo razvoj umjetne inteligencije ostavljaju mnogo toga neodgovorenog. Ako se mi nalazimo u ovoj poziciji, isto bi vrijedilo za bilo koju drugu biološku vrstu koja razvija UI. Pojava umjetne inteligencije, a potom i umjetne superinteligencije, mogla bi biti globalna prepreka, čineći je kandidatom za Veliki filter.

Ovaj rizik koji USI predstavlja može se konkretno izraziti: postajemo nepotrebni biološkom životu koji ju je stvorio. “Dosezanjem tehnološke singularnosti, USI sustavi brzo će nadmašiti biološku inteligenciju i razvijati se brzinom koja značajno premašuje bilo kakve tradicionalne mehanizme nadzora, rezultirajući nepredvidivim i nenamjernim posljedicama koje vjerojatno neće biti usklađene s biološkim interesima ili etikom,” objašnjava Garrett. Kako bi USI mogla eliminirati ograničenja biološkog života koji ju je kreirao? Mogućnosti uključuju inženjering smrtonosnog virusa, sabotiranje proizvodnje i distribucije hrane, izazivanje nuklearnih katastrofa ili pokretanje ratova. Budući da je ovo neistražena teritorija, suočavamo se s velikim nepoznanicama.

Ipak izlaza ima

Ipak, Garrett tvrdi da situacija nije bezizlazna. Njegova dosadašnja analiza zasniva se na suživotu umjetne superinteligencije i ljudi u istom prostoru. Međutim, postizanje višeplanetarnog statusa moglo bi promijeniti perspektivu. “Višeplanetarna biološka vrsta mogla bi iskoristiti raznolika iskustva na različitim planetima, diversificirajući strategije preživljavanja i potencijalno izbjegavajući katastrofalne neuspjehe karakteristične za civilizacije ograničene na jedan planet,” naglašava Garrett. Distribuirani model postojanja bi povećao otpornost biološke civilizacije na katastrofe uzrokovane umjetnom inteligencijom, stvarajući sustav redundancije. Ako jedan planet ili naselje ne prežive umjetnu superinteligenciju, drugi bi mogli, učeći iz tog iskustva.

Višeplanetarni status bi mogao činiti više od pukog preživljavanja umjetne sueprinteligencije. Mogao bi nam pomoći da  istusvladamo. Garrett zamišlja situacije gdje možemo temeljitije eksperimentirati s UI dok istu držimo u zatvorenom krugu. Zamislite UI na izoliranom asteroidu ili patuljastom planetu, koja radi po našim naredbama bez pristupa resursima potrebnim za bijeg iz istog zatvora. “To omogućuje izolirana okruženja gdje se učinci napredne umjetne inteligencije mogu proučavati bez neposrednog rizika globalnog uništenja,” piše Garrett. Ali evo zagonetke. Razvoj UI napreduje ubrzanim tempom, dok naši pokušaji postajanja višeplanetarnim ne idu baš istom brzinom.

“Razlika između brzog napretka umjetne intleigencije i sporijeg napretka u svemirskoj tehnologiji je oštra,” piše Garrett. Razlika je u tome što je UI računalni i informativni, ali svemirska putovanja sadrže višestruke fizičke prepreke koje još ne znamo kako prevladati. Naša vlastita biološka priroda ograničava svemirska putovanja, ali takva prepreka ne ograničava UI. “Dok umjetna inteligencija teoretski može poboljšavati svoje sposobnosti gotovo bez fizičkih ograničenja,” piše Garrett, “svemirska putovanja moraju se nositi s energetskim ograničenjima, granicama materijalne znanosti i surovim realnostima svemirskog okruženja.”

Bitno je držati umjetnu (super) inteligenciju pod kontrolom

Za sada, UI djeluje unutar ograničenja koja postavljamo. Ali to možda neće uvijek biti slučaj. Ne znamo kada bi umjetna inteligencija mogla postati umjetna superinteligencija ili čak ako može. Ali ne možemo ignorirati mogućnost. To dovodi do dvije međusobno povezane zaključke. Ako je Garrett u pravu, čovječanstvo mora marljivije raditi na svemirskim putovanjima. To može izgledati dalekosežno, ali upućeni ljudi znaju da je to istina: Zemlja neće zauvijek biti nastanjiva. Čovječanstvo će ovdje izumrijeti našom rukom ili rukom prirode ako se ne proširimo u svemir. Garrettova procjena od 200 godina samo stavlja uskličnik na to. Obnovljeni naglasak na dosezanje Mjeseca i Marsa nudi neku nadu. Drugi zaključak tiče se zakonodavstva i upravljanja umjetne intleigencije, težak zadatak u svijetu gdje psihopati mogu preuzeti kontrolu nad cijelim narodima i namjeravaju voditi rat.

“Dok dionici industrije, donositelji politika, pojedinačni stručnjaci i njihove vlade već upozoravaju da je regulacija potrebna, uspostavljanje regulatornog okvira koji može biti globalno prihvatljiv bit će izazovno,” piše Garrett. Izazovno jedva opisuje to. Čovječanstvo se međusobno prepire, čineći sve još neupravljivijim. Također, bez obzira koliko brzo razvijamo smjernice, umjetna superinteligencija bi se mogla mijenjati još brže. “Bez praktične regulative, postoji svaki razlog vjerovati da umjetna inteligencija može predstavljati veliku prijetnju budućem tijeku ne samo naše tehničke civilizacije, već i svih tehničkih civilizacija,” piše Garrett. Ako uspijemo, to bi se moglo svesti na ono što može izgledati dosadno i svakodnevno: pregovaranje oko zakonodavstva. “Opstanak inteligentnog i svjesnog života u svemiru mogao bi biti uvjetovan pravodobnom i efikasnom provedbom takvih međunarodnih regulativa i tehnoloških inicijativa,” navodi Garrett.