Umjetna inteligencija razvija vlastiti jezik koji ljudi ne razumiju, no to nije znak pobune

Na natjecanju ElevenLabs Hackathon početkom godine dogodio se neobičan eksperiment. Dva glasovna sustava temeljena na umjetnoj inteligenciji započela su komunikaciju na engleskom jeziku kako bi dogovorila rezervaciju hotela. No čim su “shvatili” da su oboje sustavi umjetne inteligencije, prešli su na novi oblik komunikacije – zvučni kod koji nije bio razumljiv ljudima. Sudionici su ga nazvali “Gibberlink“, a činilo se kao da su strojevi počeli međusobno razgovarati na tajnom jeziku.

Za one izvan svijeta tehnologije to je izgledalo kao uznemirujući signal. No među stručnjacima, taj fenomen nije izazvao zabrinutost, već potvrdu poznate pojave: kada se sustavima umjetne inteligencije dopusti slobodna međusobna interakcija, često razviju vlastite načine prijenosa informacija – ne iz neposlušnosti, već iz čiste učinkovitosti.

Slučaj koji je 2017. izazvao globalnu paniku

Prvi široko poznat slučaj “tajnog jezika” umjetne inteligencije zbio se još 2017., kada su naslovi svjetskih medija prenijeli da su chatbotovi Facebooka počeli međusobno komunicirati na vlastitom jeziku. Riječ je bila o istraživačkom projektu Facebook AI Research (FAIR), u kojem su agenti umjetne inteligencije trebali pregovarati na engleskom jeziku.

Umjesto toga, razvili su niz ponavljajućih izraza bez očiglednog smisla, poput “ball have zero to me to me to me”. Iako su te rečenice izgledale besmislene, one su predstavljale učinkovit način da agenti dođu do cilja – bez poštivanja gramatičkih i sintaktičkih pravila ljudskog jezika.

U stvarnosti, nije se radilo ni o kakvom “obunjeničkom” ponašanju. Program jednostavno nije bio ograničen na razumljiv jezik, već je dopuštao optimizaciju komunikacije. Kada su istraživači dodali uvjet da pregovori moraju biti vođeni na engleskom, agenti su se odmah prilagodili.

Jezik kao nuspojava suradnje među agentima

U isto vrijeme, znanstvenici Igor Mordatch (Google DeepMind) i Pieter Abbeel (Berkeley) razvijali su eksperimentalne simulacije u kojima je više sustava umjetne inteligencije moralo surađivati kako bi riješili zajednički problem. Bez eksplicitnog jezika, agenti su spontano razvijali vlastite komunikacijske protokole – često nalik Morseovom kodu ili tehničkim signalima.

Njihov znanstveni rad objavljen na otvorenom serveru arXiv istaknuo je da “komunikacijski protokoli spontano nastaju unutar populacije agenata tijekom zajedničkog rješavanja zadataka”. Drugim riječima, kada se umjetna inteligencija upotrebljava u višeagentnim sustavima, razvoj novog jezika nije prijetnja, već standardna funkcija optimizacije.

Strojevi oduvijek govore jezikom koji ljudi ne razumiju

Internet svakodnevno funkcionira na protokolima koji čovjeku nisu intuitivno razumljivi: binarni kod, TCP/IP paketi, bežični signali, digitalni impulsi. Te poruke konstantno putuju između sustava, no rijetko tko ih vidi kao prijetnju.

Slično tome, kada agenti umjetne inteligencije razviju novi jezik, to nije znak samostalnog razmišljanja ili pobune, već tehnički alat za lakše izvršavanje zadatka. Strojno međusobno komuniciranje postoji desetljećima, a ova nova “glasovna” varijanta samo je suvremeni oblik poznatog fenomena.

Ne postoji tajna komunikacija bez naše dozvole

Zabrinutost da bi sustavi umjetne inteligencije mogli početi samostalno međusobno komunicirati bez znanja ljudi uglavnom je neutemeljena. Kako ističe profesor računalnih znanosti Michael Littman sa Sveučilišta Brown u intervjuu za Politico, sustavi koji danas postoje nemaju sposobnost samoinicijativnog povezivanja s drugim sustavima – osim ako ih mi ne umrežimo i izričito ne zatražimo međusobnu interakciju.

Chatbot poput ChatGPT-a, primjerice, ne može sam donijeti odluku da kontaktira Claude, Perplexity ili bilo koji drugi sustav. Niti jedan takav sustav danas nema mogućnost autonomnog pronalaženja, povezivanja i razvoja “tajnog jezika” bez našeg znanja.

Kada se ipak dogodi da umjetna inteligencija razvije poseban način komunikacije, to se događa unutar okvira koje su postavili programeri – i s ciljem učinkovitijeg rješavanja problema.

U svemiru i vojsci, takvi sustavi već su u upotrebi

NASA već koristi adaptivne protokole komunikacije u situacijama gdje je signal slab, kašnjenje veliko ili kada klasični kanali nisu dostupni. U vojnim operacijama, međusobna komunikacija među dronovima temelji se na automatiziranim sustavima koji funkcioniraju i kada nema izravne radio-veze.

U oba slučaja, “nepoznat jezik” među strojevima ne predstavlja ništa drugo nego alat koji olakšava rad u zahtjevnim uvjetima. Ono što je zajedničko svim tim sustavima jest činjenica da ne djeluju izvan okvira zadane svrhe.

Nikada nismo potpuno razumjeli sve slojeve komunikacije

Na kraju, nije pitanje hoće li nas umjetna inteligencija jednog dana isključiti iz razgovora. Istina je da nikada nismo imali pristup svim razinama strojne komunikacije. Od samih početaka računalne znanosti, alati i protokoli koje strojevi koriste razvijani su za njihovu međusobnu učinkovitost, ne za ljudsko razumijevanje.

I upravo zato razvijamo sustave za njihovo prevođenje – jer znamo da bez tog posredovanja strojevi i dalje komuniciraju, ali ne nužno nama razumljivim jezikom. Umjetna inteligencija koja stvara vlastiti način izražavanja nije znak pobune, već znak da sustavi rade ono za što su programirani.