Vodeće figure iz nekoliko sektora okupile su se kako bi izdale strogo upozorenje o potencijalnim opasnostima povezanim s umjetnom inteligencijom (AI). Središnja tema bila je jasna: povećane sposobnosti AI-a i njezina integracija u svakodnevni život mogli bi predstavljati značajne i prethodno nepredviđene rizike u nadolazećim godinama. Je li umjetna inteligencija put kojim treba ići ili predstavlja globalnu prijetnju?
Kako AI nastavlja evoluirati neviđenim tempom, potencijalne opasnosti koje bi mogla donijeti sve više postaju uzrok zabrinutosti među onima na samom vrhu njenog razvoja i primjene. Razgovor se premjestio s teorijskih briga na hitan dijalog o praktičnim i etičkim implikacijama ovih naprednih tehnologija.
Upozorenje služi kao oštar podsjetnik na odgovornosti koje prate prednosti AI-a. Poruka koju su kolektivno isporučili tog dana bila je usmjerena prema njihovim kolegama i namijenjena je dosezanju političkih odlučitelja, poslovnih ljudi i šire javnosti. Cilj? Povećati svijest, promicati dijalog i potaknuti akciju da se ublaže ovi nastajući rizici prije nego što postanu realnosti našeg budućeg svijeta.
Rizik AI-a na razini pandemija i nuklearnog rata
“Sprečavanje AI-a da postane egzistencijalna prijetnja trebala bi biti globalna briga,” sugerirao je Centar za sigurnost AI-a (CAIS) u nedavnoj izjavi. CAIS, posvećen suzbijanju rizika od AI-a na razini društva kroz zagovaranje, istraživanje i izgradnju polja, izjednačava potencijalne opasnosti AI-a s pandemijama i nuklearnim ratovanjem, oba koja predstavljaju ozbiljne prijetnje zemaljskom životu.
Renomirani inovator AI-a među potpisnicima
Prema Debriefu, među potpisnicima je Geoffrey Hinton, pionir u učenju strojeva poznat po svojim upornim upozorenjima o potencijalu za uništenje AI-a. Nedavno je Hinton podnio ostavku u Googleu zbog briga vezanih uz AI i želje da otvoreno riješi problem. Izjavu također podržava izvršni direktor ChatGPT-a Sam Altman i nekoliko drugih utjecajnih ljudi.
Umjetna inteligencija; globalna prijetnja?
Rasprava o potencijalnim opasnostima AI-a sve je življa u posljednjim godinama, posebno otkako su se pojavili AI chatboti poput ChatGPT-a i Googleovog Barda. CAIS upozorava: “AI, iako koristan, može potencijalno perpetuirati pristranost, omogućiti autonomno oružje, širiti dezinformacije i poticati sajber napade.”
Umjetna inteligencija: povećana autonomija, povećani rizik
Kako agenti AI-a stječu veću autonomiju, čak i uz ljudsko sudjelovanje, mogu predstavljati povećani rizik od štete. CAIS identificira osam potencijalnih rizika vezanih uz AI, uključujući njezinu oružanu upotrebu, širenje dezinformacija, manipulaciju putem posrednika i rizik od gubitka ljudske kontrole zbog nastajanja ciljeva AI-a.
Regulatorni odgovor na potencijalnu zloupotrebu AI-a
U sjeni ovih upozorenja o mogućoj zloupotrebi AI-a i nepredviđenim problemima koji proizlaze iz njenog razvoja, brojne nacije sada poduzimaju korake za regulaciju rasta AI-a. Predstojeći Zakon o AI-u Europske unije spreman je postati prvi zakon o AI-u značajnog regulatora, koji se bavi tri glavne kategorije rizika izvedene iz AI-a.
Prethodna upozorenja od strane vodećih ljudi industrije
Ovo nije prvi put da su industrijski lideri i znanstvenici zajedno upozorili na takve prijetnje. Ranije ove godine, Elon Musk i više od 1000 drugih podržalo je otvoreno pismo u kojem se traži šestomjesečna stanka u razvoju AI-a kako bi se pravilno procijenili potencijalni ishodi i rizici.
“Snažni AI sustavi trebali bi se razvijati samo kada možemo sigurno odrediti da će njihov utjecaj biti koristan i da su rizici upravljivi,” stoji u pismu, naglašavajući potrebu za opravdanim povjerenjem proporcionalnim potencijalnim učincima sustava.
Pridružite se raspravi u našoj Telegram grupi. KOZMOS Telegram –t.me/kozmoshr
