Tisuću AI agenata dobilo je političke stavove i zadatak da ih obrazlažu u međusobnim razgovorima. Kako je rasprava odmicala, sve su se češće povezivali s istomišljenicima i razdvajali u suprotstavljene tabore. Kada su istraživači pokušali ublažiti te podjele, sama promjena sugovornika nije mnogo pomogla.
Veći učinak imale su upute kojima se agente poticalo da budu otvoreni argumentima drukčijih stajališta. U tom je slučaju mjera polarizacije pala za 11,8 posto. Nalaz dolazi iz računalne simulacije političkih razgovora, u kojoj su stavove izražavali veliki jezični modeli, a ne ljudi.
Jinghua Piao sa Sveučilišta Tsinghua i suradnici u recenziranom radu koji je prihvatio časopis Nature Communications istražuju kako se takvi sustavi ponašaju kada im se dopusti da oblikuju vlastite mreže kontakata. Agenti nisu dobili izričitu uputu da traže istomišljenike ili stvaraju zatvorene krugove.
Rasprava je počela s velikom neutralnom skupinom
AI agent u ovom je eksperimentu program koji koristi jezični model za sastavljanje poruka, odabir sugovornika i promjenu dodijeljenog stava. Autori su za glavne pokuse upotrijebili GPT-3.5, a dodatne provjere obuhvatile su i druge modele, među njima GPT-4o, Llamu 3 i DeepSeek-V3.
U svakoj je mreži bilo tisuću agenata. Raspravljali su o jednoj od triju tema: američkom stranačkom opredjeljenju, kontroli oružja ili zabrani pobačaja. Na početku su raspoređeni na ljestvicu s pet stupnjeva, od lijevog do desnog, s neutralnim stavom u sredini. Upravo je neutralna skupina bila najveća i činila je 40 posto sudionika.
Svaki se krug sastojao od obrazlaganja vlastitog stava, razmjene poruka i mogućeg ažuriranja stajališta. Agenti su mogli zadržati postojeće kontakte ili razgovarati s nekim novim. Tako su se stavovi i mreža odnosa mijenjali istodobno.
Do završetka simulacije udio neutralnih agenata u raspravi o stranačkom opredjeljenju pao je na 22,5 posto. U raspravi o kontroli oružja ostalo ih je samo 0,4 posto, a u onoj o zabrani pobačaja 5,1 posto. Povezivanje s istomišljenicima postajalo je sve izraženije, dok su razgovori s agentima koji zastupaju snažnije stavove na istoj strani često pratili dodatno udaljavanje od sredine.
Jezični modeli nisu uvijek dosljedno igrali zadanu ulogu
Istraživači su pritom naišli na problem koji je važan za tumačenje cijelog eksperimenta. Neki agenti nisu se dosljedno držali dodijeljene političke uloge. Agent zamišljen kao neutralan mogao je, primjerice, sastaviti poruku sa snažnom stranačkom potporom.
U zasebnim provjerama događalo se i da agent s desnim stajalištem prijeđe ulijevo nakon razgovora s istomišljenikom. Takve promjene mogu odražavati sklonosti jezičnog modela i način na koji slijedi upute, a ne uvjeravanje kakvo bi se dogodilo među ljudima.
Tim je dodao postupak kojim agent provjerava odgovaraju li njegova poruka i promjena stava zadanoj ulozi te ponovno sastavlja nedosljedan odgovor. Lijevi i desni tabor tada su postali uravnoteženiji, ali podjele nisu nestale. Dosljednije izvršavanje uloga nije samo po sebi spriječilo polarizaciju.
Susret s drukčijim mišljenjem nije bio dovoljan
Na već podijeljenoj mreži istraživači su iskušali pet intervencija. Nasumično povezivanje agenata imalo je skroman učinak, kao i ograničavanje poruka na one koje dolaze od umjerenih političkih protivnika. Ni opća uputa da traže različita mišljenja nije mnogo promijenila postojeću mrežu.
Najveće smanjenje izmjerene polarizacije donijela je uputa da budu spremni promijeniti stav kada čuju uvjerljive argumente drugih agenata. Uvođenje utjecajnih agenata koji šalju neutralne poruke smanjilo je istu mjeru za 8,8 posto.
Ta mjera prati prosječnu udaljenost izraženih stavova od neutralnog položaja. Ne mjeri neprijateljstvo, povjerenje ili spremnost na suradnju, pa njezin pad ne znači da su se suprotstavljene strane pomirile.
Autori ove mreže predstavljaju kao prostor za ispitivanje pretpostavki. Ponašanje agenata ovisi o uputama, a politički stavovi svedeni su na pet kategorija. Da bi se provjerilo vrijede li slični učinci izvan simulacije, rezultate treba usporediti s podacima iz stvarnih razgovora i pokusima s ljudskim sudionicima.
