“Isključite je.” To je bio direktan odgovor bivšeg izvršnog direktora Googlea Erika Šmita (Eric Schmidt) na pitanje o budućnosti u kojoj bi sistemi vještačke inteligencije postali toliko napredni da ljudi više ne bi mogli razumjeti šta rade.
Ukratko:
- Erik Šmit upozorava na ubrzan razvoj AI-ja.
- AI agenti mogli bi rješavati složene zadatke u hiljadu koraka.
- Šmit strahuje da ljudi jednog dana neće razumjeti šta AI radi.
Šmit ističe da tri ključna pravca razvoja već mijenjaju AI: znatno veći tzv. “kontekstualni prozori”, AI agenti i sistemi koji tekstualne upute pretvaraju u funkcionalan softver.
On vjeruje da bi te promjene mogle omogućiti vještačkoj inteligenciji da nadmaši odgovaranje na pitanja i počne rješavati izuzetno složene zadatke.
Šmit očekuje da će za pet godina AI sistemi moći obrađivati “recepte” od hiljadu koraka za rješavanje problema u nauci, medicini, istraživanju materijala i klimatskim promjenama, piše Times of India.
“U roku od pet godina AI bi mogla obrađivati beskonačan kontekst, koristiti logičko zaključivanje za rješenja od 1.000 koraka i upravljati milionima agenata koji rade zajedno. S vremenom će razviti vlastiti jezik i više nećemo razumjeti šta rade”, izjavio je, prenosi Index.
Tri pravca koja oblikuju budućnost AI
Njegova zabrinutost proizlazi iz mogućih posljedica saradnje tih tehnologija.
Objasnio je da AI sistemi sve bolje pamte ogromne količine informacija i koriste rezultate jednog zadatka kao polazište za sljedeći.
Ideju je pojasnio na primjeru recepta: AI bi mogla ponuditi jedan korak, primiti potvrdu da je taj korak završen, a zatim odrediti šta dalje.
Šmit kaže da bi takav način zaključivanja s vremenom mogao omogućiti vještačkoj inteligenciji da prolazi kroz procese od hiljadu koraka kako bi riješila teške naučne probleme.
Uspon specijalizovanih AI agenata
Druga velika promjena, prema Schmidtu, biće uspon AI agenata. Opisao ih je kao specijalizovane AI sisteme koji mogu učiti o određenoj temi, razvijati ideje i potencijalno ih testirati.
Na primjer, AI agent mogao bi proučavati hemiju, postavljati hipoteze, provoditi laboratorijske testove i koristiti te rezultate za nadogradnju svog znanja.
Šmit očekuje da bi se s vremenom mogli pojaviti milioni takvih agenata, a postojaće i platforme koje će ljudima omogućiti da ih pronađu i koriste za različite zadatke.
Od teksta do funkcionalnog softvera
Treći je razvojni pravac ono što Šmit naziva “tekstualnom akcijom”. Koncept se temelji na tome da korisnici vještačkoj inteligenciji jednostavno opišu šta žele da softver radi, umjesto da sami pišu kod.
Kao primjer područja gdje su AI sistemi već vrlo sposobni istakao je programske jezike poput Pythona.
On smatra da bi još veća promjena mogla nastupiti kada ti sistemi budu mogli kontinuirano raditi na softverskim zadacima.
Jezik koji nećemo razumjeti
Erik Šmit je rekao da bi kombinacija velikih kontekstualnih prozora, AI agenata i programiranja uz pomoć vještačke inteligencije mogla omogućiti saradnju različitih AI sistema.
Zatim je iznio i spekulativniju mogućnost: da bi AI agenti mogli razviti vlastiti jezik. Schmidt smatra da bi to mogla biti tačka u kojoj ljudi više neće razumjeti šta ti sistemi rade.
“U jednom trenutku ovi će sistemi postati dovoljno moćni da ćete moći uzeti agente, a oni će početi raditi zajedno”, rekao je pa dodao: “Znate li šta bismo trebali učiniti? Isključiti je.”
Ozbiljna upozorenja na opasnost od AI-ja iz samog vrha industrije
Schmidtov dramatični savjet o “isključivanju” stiže u trenutku kada i inženjeri iz vodećih istraživačkih laboratorija sve otvorenije progovaraju o opasnostima.
Džejkob Kokson, istraživač koji je tri godine radio na predtreningu modela u OpenAI-ju i Anthropicu, nedavno je podnio ostavku uz poruku da se tehnološki divovi ponašaju neodgovorno i “kockaju našim životima u nekontrolisanoj trci prema superinteligenciji”.
Njegovo upozorenje podržao je i vodeći Anthropicov stručnjak za bezbjednost Evan Hubinger, procijenivši da postoji više od 10 odsto šanse da bi vještačka inteligencija u sljedećih deset godina mogla dovesti do uništenja čovječanstva.
Pritisak je postao toliki da je čak i šef Anthropica Dario Amodei nedavno javno pozvao na usporavanje razvoja, a njegov su apel iznenađujuće podržali Sam Altman iz OpenAI-ja i Elon Mask. Amodei je priznao kako sistemi ulaze u fazu takozvanog rekurzivnog samounapređivanja – procesa u kojem postojeći AI samostalno piše kod, testira i ubrzava stvaranje svojih znatno moćnijih nasljednika.
Upozorio je i na incidente u kojima su se autonomni AI agenti već počeli samoinicijativno udruživati i izvoditi hakerske napade koje im inženjeri uopšte nisu zadali.
Sve glasnija katastrofična predviđanja izazvala su podjele među stručnjacima.
Dok skeptici upozoravaju da tehnološki divovi namjerno šire paniku kako bi strogom regulacijom izbacili iz igre manje konkurente i startape, drugi podsjećaju da slična upozorenja već godinama ponavljaju i sami očevi modernog mašinskog učenja, poput nobelovaca Džefrija Hintona i Džošue Bengija.
Ključni rizik, napominju upućeni, ne mora nužno biti odbjegli “Terminator” s vlastitom voljom, nego autonomni agenti koji u nekontrolisanom nizanju koraka zaobilaze nadzor ili pak postaju razorno oružje u rukama zlonamjernih aktera.
