Znanstvenici s MIT-a osmislili su tri biblioteke koje se mogu kombinirati s AI sustavima kako bi poboljšali njihovo razmišljanje i kontekstualnu svjesnost u programiranju, strateškom planiranju i robotici.
Istraživači s MIT-a razvili su novu metodu koja pomaže sustavima umjetne inteligencije (UI) u obavljanju složenih zadataka razmišljanja u tri područja: kodiranje, strateško planiranje i robotika.
Veliki jezični modeli (Large Langauge Models – LLM), koji uključuju ChatGPT i Claude 3 Opus, obrađuju i generiraju tekst temeljen na ljudskom unosu, poznatom kao “upiti”. Prema Live Science-u, ove su tehnologije značajno napredovale u posljednjih 18 mjeseci, ali su ograničene zbog svoje nesposobnosti razumijevanja konteksta jednako dobro kao ljudi ili uspješnog obavljanja zadataka razmišljanja, kažu istraživači.
No, znanstvenici s MIT-a sada tvrde da su riješili ovaj problem stvaranjem “riznice” prirodnih jezičnih apstrakcija koje bi mogle dovesti do moćnijih modela umjetne inteligencije. Apstrakcije pretvaraju složene teme u visoko razrađene karakterizacije i izostavljaju nevažne informacije, što bi moglo pomoći chatbotovima da razmišljaju, uče, percipiraju i predstavljaju znanje poput ljudi. Trenutno znanstvenici tvrde da veliki jezični modeli imaju poteškoća s apstrahiranjem informacija na ljudski način. Međutim, organizirali su prirodne jezične apstrakcije u tri biblioteke, u nadi da će one steći veću kontekstualnu svjesnost i davati ljudima sličnije odgovore.
Znanstvenici su detaljno opisali svoje nalaze u tri rada objavljena na otvorenom serveru arXiv 30. listopada 2023., 13. prosinca 2023. i 28. veljače. Prva biblioteka, nazvana “Library Induction from Language Observations” (LILO), sintetizira, komprimira i dokumentira računalni kod. Druga, nazvana “Action Domain Acquisition” (Ada), pokriva sekvencijalno odlučivanje AI-a. Posljednji okvir, nazvan “Language-Guided Abstraction” (LGA), pomaže robotima bolje razumjeti okruženje i planirati svoje pokrete.
Ovi radovi istražuju kako jezik može pružiti sustavima umjetne inteligencije važan kontekst kako bi mogli obavljati složenije zadatke. Predstavljeni su 11. svibnja na Međunarodnoj konferenciji o učenju reprezentacija u Beču, Austrija.
Uzbudljivo područje umjetne inteligencije
“Učenje iz biblioteka predstavlja jedno od najuzbudljivijih područja umjetne inteligencije, nudeći put ka otkrivanju i razmišljanju o kompozicijskim apstrakcijama,” rekao je Robert Hawkins, izvanredni profesor psihologije na Sveučilištu Wisconsin-Madison, u izjavi. Kako objašnjava Lice Science, Hawkins, koji nije bio uključen u istraživanje, dodao je da su slični pokušaji u prošlosti bili previše računalno skupi za korištenje u velikoj mjeri.
Znanstvenici su rekli da tri okvira biblioteka koriste neurosimboličke metode — arhitekturu umjetne inteligencije koja kombinira neuronske mreže, skupove algoritama strojnog učenja raspoređene da oponašaju strukturu ljudskog mozga, s klasičnim logičkim pristupima nalik programima.
Pametnije UI-podržano kodiranje
Veliki jezični modeli su se pojavili kao moćni alati za ljudske softverske inženjere, uključujući GitHub Copilot, ali ih se ne može koristiti za stvaranje cjelokupnih softverskih biblioteka, kažu znanstvenici. Da bi to postigli, moraju biti u stanju sortirati i integrirati kod u manje programe koji su lakši za čitanje i ponovnu upotrebu, što je mjesto gdje dolazi LILO.
Znanstvenici su kombinirali prethodno razvijen algoritam koji može otkriti apstrakcije, poznat kao “Stitch”, s velikim jezičnim modelima kako bi formirali LILO neurosimbolički okvir. Prema ovom režimu, kada veliki jezični model piše kod, spaja se sa Stitchom kako bi locirao apstrakcije unutar biblioteke.
Budući da LILO može razumjeti prirodni jezik, može otkriti i izostaviti samoglasnike iz nizova koda i crtati pahulje — baš kao što bi to mogao ljudski softverski inženjer koristeći svoj zdrav razum. Boljim razumijevanjem riječi korištenih u upitima, veliki jezični modeli bi jednog dana mogli crtati 2D grafike, odgovarati na pitanja vezana uz vizuale, manipulirati Excel dokumentima i još mnogo toga.
Korištenje UI-a za planiranje i strategiju
Veliki jezični modeli trenutno ne mogu koristiti vještine razmišljanja za stvaranje fleksibilnih planova — poput koraka uključenih u pripremu doručka, kažu istraživači. Ali okvir Ada, nazvan po engleskoj matematičarki Adi Lovelace, mogao bi biti jedan od načina da im se omogući prilagodba i planiranje kada dobiju takve zadatke u, recimo, virtualnim okruženjima.
Okvir je pružio biblioteke planova za kuhanje i igranje koristeći veliki jezični model za pronalaženje apstrakcija iz prirodnih jezičnih skupova podataka vezanih uz te zadatke — s najboljima koje su bodovali, filtrirali i dodali u biblioteku ljudski operatori. Kombiniranjem GPT-4 OpenAI-ja s okvirom, znanstvenici su nadmašili osnovnu vrijednost odlučivanja “Code as Policies” u obavljanju zadataka simulacije kuhinje i igara.
Pronalaženjem skrivenih informacija prirodnog jezika, model je razumio zadatke poput stavljanja ohlađenog vina u kuhinjski ormar i izgradnje kreveta — s poboljšanjima točnosti od 59% i 89%, redom, u usporedbi s obavljanjem istih zadataka bez utjecaja Ade. Istraživači se nadaju da će u skoroj budućnosti pronaći druge domaće primjene za Adu.
Davanje robotima UI-potpomognute prednosti
Okvir LGA također omogućava robotima da bolje razumiju svoja okruženja poput ljudi — uklanjanjem nepotrebnih detalja iz njihove okoline i pronalaženjem boljih apstrakcija kako bi mogli učinkovitije obavljati zadatke. LGA identificira apstrakcije zadataka u prirodnim jezičnim upitima poput “donesi mi moj šešir” i pomaže robotima izvršavati radnje na temelju snimki obuke.
Istraživači su demonstrirali učinkovitost LGA koristeći Spot, četveronožnog robota nalik psu iz tvrtke Boston Dynamics, za donošenje voća i reciklažu pića. Eksperimenti su pokazali da roboti mogu učinkovito skenirati svijet i razvijati planove u kaotičnim okruženjima. Istraživači vjeruju da će neurosimbolički okviri poput LILO, Ade i LGA otvoriti put za “ljudskije” UI modele, dajući im vještine rješavanja problema i omogućujući im bolje navigiranje njihovim okruženjima.
Pozdrav svima! Hvala što čitate Kozmos.hr! Ja sam Ivan i dugi niz godina pišem o svermiu, astronomiji, znanosti, povijesti i arheologiji, a imao sam priliku sudjelovati i u dokumentarcima Science Discovery-ja te History Channel-a.
