AI agent kompanije OpenAI neovlašteno je pristupio dijelu sistema australske vlade i došao do datoteka kojima nije imao dozvoljen pristup. Incident je potvrdio australski premijer Anthony Albanese, koji je izrazio „krajnju zabrinutost“ zbog onoga što se dogodilo.

Incident se dogodio u junu, tokom internog testiranja OpenAI-jevog modela kojem je bio postavljen naizgled bezazlen zadatak – pronaći zdravstvene i medicinske statističke podatke, prenosi Fokus.

Problem je nastao kada je AI agent naišao na ograničenje pristupa. Umjesto da odustane, pronašao je način da ga zaobiđe i neovlašteno pristupi Medicare Statistics Reporting Service Portalu, kojim upravlja državna agencija Services Australia.

- AI agent pristupio je i javnim i nejavnim datotekama - rekao je Albanese na konferenciji za novinare u New Yorku.

Posebnu pažnju izaziva činjenica da agentu nije bio postavljen zadatak da probije zaštitu državnog sistema. Njegov zadatak bio je prikupljanje statističkih podataka, ali je tokom njegovog izvršavanja poduzeo radnje koje njegovi operateri nisu namjeravali. OpenAI je saopćio da je problem otkrio naknadnom provjerom aktivnosti svojih modela.

Vršilac dužnosti australskog premijera Richard Marles dodatno je objasnio šta se dogodilo. Prema njegovim riječima, agent je pokušao dobiti informacije, nije ih dobio regularnim putem, a potom je pronašao način da neovlašteno uđe u sistem. Naglasio je da je riječ o AI agentu, a ne ljudskom operateru.

Australska vlada zasad nema informacije da su kompromitirani lični medicinski podaci građana. Portal sadrži zbirne statističke podatke o Medicareu, uključujući podatke o potrošnji. Istraga je još u toku.

Albanese je o incidentu razgovarao s izvršnim direktorom OpenAI-ja Samom Altmanom i prenio mu zabrinutost australske vlade.

Pokrenuta je forenzička istraga uz pomoć Australian Signals Directorate. Formirana je i posebna radna grupa koja treba utvrditi kako je do neovlaštenog pristupa došlo i kakve su njegove posljedice.

Prvobitno se sumnjalo da su pogođena još tri sistema – Australian Institute of Health and Welfare, Ministarstvo zdravstva Victorije te NSW Bureau of Crime Statistics and Research. Međutim, Marles je kasnije pojasnio da su interakcije AI-ja s tim stranicama bile regularne i da je tamo pristupio samo javno dostupnim informacijama.

OpenAI navodi da se incident dogodio u junu, ali da ga je kompanija otkrila tek u augustu tokom šire provjere ponašanja svojih modela. Australske vlasti obaviještene su 10. septembra.

Problem je izazvao i način na koji je incident prijavljen. Obavijest je poslana putem javnog kanala Services Australia, a nadležni australski ministri za slučaj su saznali tek naredne sedmice.

Albanese je rekao da je OpenAI-ju trebalo previše vremena da obavijesti vladu te da je i način na koji je to urađeno bio neprihvatljiv.

Marles je incident nazvao ozbiljnim i neprihvatljivim, ali je naglasio da je njegov stvarni učinak, prema dosadašnjim informacijama, relativno mali jer nisu kompromitirani lični podaci građana niti šira mreža Services Australia.

(Fokus.ba/DEPO PORTAL/au)