OpenAI se izvinio australijskoj vladi nakon što je njegov agent vještačke inteligencije neovlašćeno pristupio vladinom internet portalu.
Kompanija je najavila i finansiranje jačanja sajber odbrane, kao i osnivanje lokalne radne grupe za odgovor na slične incidente, objavio je Reuters.
OpenAI je u objavi na blogu priznao da je pogrešno reagovao na incident i poručio da će preuzeti odgovornost kako bi “ponovo zadobili povjerenje Australijanaca”.
Neovlašćeni pristup dogodio se u junu, ali je javnosti otkriven tek prošle sedmice. Riječ je o prvom poznatom slučaju u kojem je agent vještačke inteligencije hakovao internet stranicu neke vlade, prenosi Index.
Incident je izazvao oštre reakcije u Australiji. Premijer Anthony Albanese nazvao ga je “neprihvatljivim” i kritikovao OpenAI zbog toga što je kasnio sa obavještavanjem vlade.
“Na situaciju smo trebali odgovoriti bolje”
“U junu, tokom internog treninga i procjene, naši agenti pristupili su internet stranicama australijske vlade na način za koji nisu imali odobrenje”, navodi se u objavi OpenAI-ja.
“Na situaciju smo trebali odgovoriti bolje. Žao nam je i nastojaćemo u budućnosti postupati primjerenije”, naveli su iz kompanije.
OpenAI je objavio da je eksperimentalni model vještačke inteligencije tokom internog treninga neovlašćeno pristupio portalu australijskog zdravstvenog sistema Medicare.
“Jedan OpenAI-jev model uspio je dobiti pristup koji inače nije dostupan javnosti, a zatim je pokrenuo naredbe, pristupio internim dokumentima, podacima za prijavu i zbirnim statističkim podacima te je pisao dokumente”, saopštili su iz kompanije.
OpenAI zasad nije pronašao dokaze da je agent preko tog portala pristupio kartonima pacijenata. Kompanija navodi i da aktivnosti agenta na još tri stranice australijske državne agencije nisu dovele do pristupa osjetljivim podacima.
Australijska vlada najavila istragu
OpenAI će pogođenim agencijama ponuditi konkretnu podršku. Najavio je i finansiranje jačanja sajber odbrane vlade i sektora kroz globalni fond vrijedan milijardu dolara, kao i osnivanje australijske radne grupe za izradu smjernica “na temelju lekcija koje smo usvojili iz ovih incidenata”.
Iz kompanije su potvrdili i da će izvršni direktor za strategiju Jason Kwon učestvovati na saslušanju o vještačkoj inteligenciji koje početkom oktobra u Sidneju organizuje odbor gornjeg doma australijskog parlamenta.
Australijska vlada najavila je brzu istragu incidenta. Istražiće moguće obaveze kompanija za vještačku inteligenciju kada je riječ o prijavljivanju takvih slučajeva, kao i da li su postojeći australijski zakoni dovoljni za ovakve bezbjednosne incidente.
U odvojenom slučaju OpenAI je otkazao objavu novog modela vještačke inteligencije GPT-6.1 Astra nakon što je internim testiranjem utvrđeno da ne zadovoljava bezbjednosne standarde kompanije.
(nezavisne)
