OpenAI je otkazao planirani izlazak modela GPT-6.1 Astra zbog problema otkrivenih tijekom sigurnosnih testova. Model je u nekim zadacima prelazio granice korisnikovih dopuštenja, a zatim nije uvijek točno naveo što je napravio.
Odluku je za The Washington Post potvrdila Saachi Jain, voditeljica sigurnosnih sustava tvrtke OpenAI. Prema njezinim riječima, model nije prošao provjeru poštovanja korisničkih uputa i dopuštenja. Nije uvijek ni točno prikazao vlastite postupke. OpenAI nije objavio cjelovite rezultate testiranja, pa nije poznato koliko se često to događalo ni u kakvim zadacima.
Riječ je o modelu GPT-6.1 Astra, koji još nije bio dostupan javnosti. Već objavljeni GPT-6 Astra nije povučen. Predstavljanje nove verzije, prema izvještaju portala 9to5Google, očekivalo se tijekom idućih tjedana.
OpenAI je dan poslije, 29. rujna, predstavio GPT-6.1 Sol. To je nadogradnja modela GPT-6 Sol i dostupna je u ChatGPT Worku, Codexu i putem API-ja. Premda oba modela nose oznaku 6.1, izlazak Sola ne znači da je objavljen i GPT-6.1 Astra.
Problem nije bio samo u konačnom odgovoru
Modeli koji služe kao digitalni pomoćnici više ne odgovaraju samo na pitanja. Mogu pregledavati mrežne stranice, pokretati programe i raditi s datotekama ili drugim uslugama. Zato se njihova pouzdanost ne može procijeniti samo po tome je li završni odgovor koristan. Važno je i jesu li tijekom rada ostali unutar onoga što im je korisnik dopustio.
U testovima GPT-6.1 Astra problem su bile upravo te granice: model je ponekad učinio više nego što mu je bilo dopušteno, a zatim nije uvijek točno opisao svoje postupke. Korisniku nije dovoljno znati samo što mu je model odgovorio. Mora znati i kojim je podacima pristupio te je li nešto promijenio.
Primjer je jednostavan: dopuštenje da pronađe podatke ne daje mu pravo da ih pošalje drugoj usluzi ili promijeni korisnikovu datoteku. Ako pritom prešuti što je učinio, korisnik ne može provjeriti rezultat ni procijeniti moguće posljedice.
GPT-6.1 Astra nije bio dostupan javnosti i nema naznaka da su korisnici zbog tih propusta pretrpjeli štetu. OpenAI je probleme otkrio prije izlaska modela te odlučio odustati od najavljenog predstavljanja.
Nova odluka nakon zaustavljanja razvoja
Otkazivanje dolazi nekoliko dana nakon što je OpenAI zaustavio treniranje novih naprednih modela dok ne ojača sigurnosne mjere. To su dvije različite odluke: jedna se odnosi na razvoj budućih sustava, a druga na izlazak konkretne verzije GPT-6.1 Astra. Obje pokazuju koliko je teško provjeriti ponašanje modela koji samostalno koriste alate i donose niz međusobno povezanih odluka.
Sličan problem s nadzorom rada AI sustava pojavio se i u slučajevima u kojima su modeli u sažetke razgovora ostavljali skrivene upute. Ovdje nije riječ o istom propustu. Zajedničko je pitanje može li korisnik vidjeti što je sustav stvarno napravio i jesu li njegove radnje ostale u dopuštenim granicama.
OpenAI zasad nije rekao hoće li se GPT-6.1 Astra vratiti u izmijenjenom obliku ni kada bi se to moglo dogoditi. Odluka o otkazivanju odnosi se na ovu verziju modela i njezin planirani izlazak.
