Umjetna inteligencija (UI) napredovala je nevjerojatnom brzinom u posljednjih nekoliko godina. Neki znanstvenici sada se okreću razvoju umjetne superinteligencije (USI)—oblika umjetne inteligencije koji bi ne samo nadmašila ljudsku inteligenciju, već bi bila oslobođena ograničenja brzine učenja karakterističnih za ljude. Ali što ako ovaj trenutak nije samo izvanredno postignuće? Što ako također predstavlja izuzetno teško iskušenje u razvoju svih civilizacija, toliko izazovno da ugrožava njihov dugoročni opstanak?
Ova ideja je srž istraživačkog rada koji je nedavno objavio Michael Garrett, nositelj katedre Sir Bernard Lovell za astrofiziku i direktor Jodrell Bank Centra za astrofiziku na Sveučilištu u Manchesteru, u časopisu Acta Astronautica. Može li umjetna inteligencija biti “veliki filter” svemira—prepreka toliko teška za prevladavanje da sprječava većinu života da evoluira u civilizacije koje istražuju svemir? Ovo je koncept koji bi mogao objasniti zašto potraga za izvanzemaljskom inteligencijom (SETI) još nije otkrila tragove naprednih tehnoloških civilizacija u našoj galaksiji.
Što je to Veliki filter?
Hipoteza velikog filtra je u konačnici predloženo rješenje za Fermijev paradoks, objašnjava Garrett. Ovaj paradoks postavlja pitanje zašto, u svemiru dovoljno velikom i starom da sadrži milijarde potencijalno naseljivih planeta, još nismo otkrili nikakve znakove vanzemaljskih civilizacija. Hipoteza sugerira da postoje nepremostive prepreke u evolucijskom tijeku civilizacija koje ih sprječavaju da postanu svemirski putnici. Garrett vjeruje da bi pojava USI mogla biti takav filter. Brz napredak UI, koji bi mogao dovesti do USI, može se podudarati s kritičnom fazom u razvoju civilizacije—prijelazom s jednoplanetne vrste na multiplanetarnu.
Ovdje bi mnoge civilizacije mogle posustati, s UI napredujući mnogo brže nego što mi možemo kontrolirati ili održivo istraživati i naseljavati naš Sunčev sustav. Izazov s UI, a posebno s USI, leži u njezinoj autonomnoj, samo-poboljšavajućoj prirodi. Posjeduje potencijal da unaprijedi vlastite sposobnosti brzinom koja nadmašuje naše evolucijske vremenske okvire bez umjetne inteligencije. Potencijal za nešto što može poći po zlu je ogroman, što bi moglo dovesti do propasti i bioloških i civilizacija temeljenih na umjetnu inteligenciju prije nego što ikada dobiju priliku postati multiplanetarne. Na primjer, ako se nacije sve više oslanjaju na autonomne sustave Umjetne Inteligencije koji se međusobno natječu, vojne sposobnosti mogle bi se koristiti za uništavanje na neviđenoj razini. To bi moglo dovesti do uništenja naše cijele civilizacije, uključujući i same sustave umjetne inteligencije.
U ovom scenariju, Garrett procjenjuje da bi tipična dugovječnost tehnološke civilizacije mogla biti manja od 100 godina. To je otprilike vrijeme između mogućnosti primanja i odašiljanja signala između zvijezda (1960) i procijenjene pojave USI (2040) na Zemlji. Ovo je alarmantno kratko u usporedbi s kozmičkom vremenskom skalom od milijardi godina. Ova procjena, kada se uključi u optimistične verzije Drakeove jednadžbe—koja pokušava procijeniti broj aktivnih, komunikativnih vanzemaljskih civilizacija u Mliječnoj stazi—sugerira da, u bilo kojem trenutku, postoji samo nekoliko inteligentnih civilizacija. Štoviše, poput nas, njihova relativno skromna tehnološka aktivnost mogla bi ih učiniti vrlo teškim za otkrivanje.
Poziv na buđenje
Mešutim, kako objašnjava Garrett, njegovo istraživanje nije samo upozorenje na potencijalnu propast. Služi kao poziv na buđenje za čovječanstvo da uspostavi čvrste regulatorne okvire za vođenje razvoja umjetne inteligencije, uključujući vojne sustave. Ovo nije samo pitanje sprječavanja zlonamjerne upotrebe umjetne inteligencije na Zemlji; radi se i o osiguranju da evolucija iste bude usklađena s dugoročnim opstankom naše vrste. To sugerira da trebamo uložiti više resursa u postajanje multiplanetarnim društvom što je prije moguće—cilj koji je ostao uspavan od uzbudljivih dana Apollo programom, ali je nedavno ponovno oživljen napretkom privatnih tvrtki.
Kao što je povjesničar Yuval Noah Harari primijetio, ništa u povijesti nas nije pripremilo za utjecaj uvođenja nesvjesnih, superinteligentnih entiteta na naš planet. Nedavno su implikacije autonomne umjetne inteligencije odlučivanja dovele do poziva istaknutih lidera u ovom području za moratorij na razvoj umjetne inteligencije, dok se ne uvede odgovoran oblik kontrole i regulacije. Ali čak i ako se svaka zemlja složi pridržavati strogih pravila i regulacija, bit će teško obuzdati neovlaštene organizacije.
Integracija umjetne inteligencije
Integracija autonomne umjetne inteligencije u vojne obrambene sustave mora biti područje posebne zabrinutosti. Već postoje dokazi da će ljudi dobrovoljno prepustiti značajnu moć sve sposobnijim sustavima, jer oni mogu obavljati korisne zadatke mnogo brže i učinkovitije bez ljudske intervencije. Vlade su stoga nevoljne regulirati ovo područje s obzirom na strateške prednosti koje nudi umjetna inteligencija. To znači da se već opasno približavamo situaciji gdje autonomno oružje djeluje izvan etičkih granica i zaobilazi međunarodno pravo. U takvom svijetu, prepuštanje moći sustavima umjetne inteligencije kako bi se stekla taktička prednost moglo bi nenamjerno pokrenuti lanac brzo eskalirajućih, vrlo destruktivnih događaja. U tren oka, kolektivna inteligencija našeg planeta mogla bi biti uništena.
Čovječanstvo je na ključnom koraku u svom tehnološkom putu. Naše akcije sada mogu odrediti hoćemo li postati trajna međuplanetarna civilizacija ili ćemo podleći izazovima koje su stvorila naša vlastita djela. Korištenje SETI-ja kao leće kroz koju možemo proučiti naš budući razvoj dodaje novu dimenziju raspravi o budućnosti UI. Na nama je da osiguramo da kada posegnemo za zvijezdama, to učinimo ne kao upozoravajuća priča za druge civilizacije, već kao svjetionik nade—vrsta koja je naučila napredovati uz umjetnu inteligenciju.
Pozdrav svima! Hvala što čitate Kozmos.hr! Ja sam Ivan i dugi niz godina pišem o svermiu, astronomiji, znanosti, povijesti i arheologiji, a imao sam priliku sudjelovati i u dokumentarcima Science Discovery-ja te History Channel-a.
