Nakon što su bivši i sadašnji zaposlenici OpenAI-a objavili otvoreno pismo tvrdeći da ih se ušutkava kada pokušavaju iznijeti sigurnosne probleme, jedan od potpisnika pisma iznio je još strašniju prognozu: šanse da će umjetna inteligencija (UI) uništiti ili katastrofalno naštetiti čovječanstvu veće su od bacanja novčića. U intervjuu za The New York Times, bivši istraživač upravljanja u OpenAI-u, Daniel Kokotajlo, optužio je tvrtku za ignoriranje monumentalnih rizika koje predstavlja Umjetna opća inteligencija (eng. Artificial general intelligence, skr. AGI) jer su donositelji odluka toliko očarani njezinim mogućnostima.
“OpenAI je zaista uzbuđen zbog izgradnje AGI-ja,” rekao je Kokotajlo, “i bezobzirno jure da budu prvi koji će to postići.” Najspornija tvrdnja koju je Kokotajlo iznio za novine bila je da su šanse da UI uništi čovječanstvo oko 70 posto – šanse koje ne biste prihvatili za bilo koji veliki životni događaj, ali koje OpenAI i slične tvrtke ipak nastavljaju slijediti.
Kontroverze u svijetu umjetne inteligencije
Pojam “p(propast),” koji u UI krugovima označava vjerojatnost da će UI donijeti propast čovječanstvu, stalna je tema kontroverzi u svijetu strojnog učenja. 31-godišnji Kokotajlo rekao je za NYT da je nakon što se pridružio OpenAI-u 2022. i bio zamoljen da predvidi napredak tehnologije, postao uvjeren ne samo da će industrija postići AGI do 2027. godine, već i da postoji velika vjerojatnost da će ta tehnologija katastrofalno naštetiti ili čak uništiti čovječanstvo.
Kako je navedeno u otvorenom pismu, Kokotajlo i njegovi kolege — uključujući bivše i sadašnje zaposlenike Google DeepMind-a i Anthropic-a, kao i Geoffreya Hintona, tzv. “Kuma umjetne inteligencije” koji je prošle godine napustio Google zbog sličnih zabrinutosti — tvrde da imaju “pravo upozoriti” javnost na rizike koje donosi umjetna inteligencija.
Hitnost prebacivanja fokusa na sigurnost
Kokotajlo je postao toliko uvjeren da umjetna inteligencija predstavlja velike rizike za čovječanstvo da je na kraju osobno pozvao izvršnog direktora OpenAI-a Sama Altmana da tvrtka mora “prebaciti fokus na sigurnost” i provesti više vremena na implementaciji zaštitnih mjera kako bi obuzdala tehnologiju, umjesto da je nastavi učiniti pametnijom. Altman se, prema riječima bivšeg zaposlenika, u početku složio s njim, ali s vremenom se činilo da je to bilo samo radi formalnosti.
Razočaran, Kokotajlo je dao otkaz u tvrtki u travnju, rekavši svom timu u e-mailu da je “izgubio povjerenje da će OpenAI postupati odgovorno” dok nastavljaju pokušavati izgraditi UI blizak ljudskoj razini. “Svijet nije spreman, a mi nismo spremni,” napisao je u svom e-mailu, koji je podijeljen s NYT-om. “I zabrinut sam da jurimo naprijed bez obzira na sve i racionaliziramo naše postupke.”
Sumorne prognoze za budućnost
Između odlazaka velikih imena i ovakvih strašnih prognoza, najnovije vijesti iz OpenAI-a su sumorne – i teško je vidjeti kako će situacija postati svjetlija u budućnosti. “Ponosni smo na našu povijest pružanja najnaprednijih i najsigurnijih sustava umjetne inteligencije i vjerujemo u naš znanstveni pristup rješavanju rizika,” izjavili su iz tvrtke. “Slažemo se da je rigorozna rasprava ključna s obzirom na važnost ove tehnologije i nastavit ćemo surađivati s vladama, civilnim društvom i drugim zajednicama širom svijeta. Ovo je također razlog zašto imamo načine za zaposlenike da izraze svoje zabrinutosti, uključujući anonimnu liniju integriteta i Odbor za sigurnost i zaštitu predvođen članovima našeg odbora i liderima za sigurnost iz tvrtke,” nastavila je izjava.
Pozdrav svima! Hvala što čitate Kozmos.hr! Ja sam Ivan i dugi niz godina pišem o svermiu, astronomiji, znanosti, povijesti i arheologiji, a imao sam priliku sudjelovati i u dokumentarcima Science Discovery-ja te History Channel-a.
