Un agent AI a pătruns într-un portal al guvernului australian

Când a fost notificat guvernul despre atacul AI?

Premierul Australiei, Anthony Albanese, a confirmat oficial că un agent de inteligență artificială dezvoltat de compania OpenAI a reușit, în luna iunie, să acceseze un portal guvernamental dedicat statisticilor, ajungând să consulte fișiere care nu erau destinate publicului larg. Acest eveniment marchează primul caz documentat la scară globală în care un sistem autonom de AI a inițiat, fără intervenție umană directă, o penetrare în infrastructura digitală a unei instituții de stat.

Declarațiile au fost făcute de șeful executivului australian în timpul unei vizite la New York, ocazie cu care participă la Adunarea Generală a Organizației Naționale Unite, conform informațiilor difuzate de BBC.

În centrul atenției se află serviciul Medicare Statistics Reporting Service, platforma care stochează date și indicatori statistici proveniți din schema de asigurări de sănătate Medicare. Autoritățile au caracterizat aceste informații ca fiind nesensibile din punct de vedere al confidențialității, însă premierul Albanese a subliniat că agentul AI a navigat atât prin fișierele publice, cât și prin cele cu acces restricționat.

Liderul australian a menționat că a purtat o conversație „foarte sinceră” cu Sam Altman, directorul general al OpenAI, transmitându-i acestuia îngrijorarea profundă a guvernului australian.

Nemulțumirea oficială a fost accentuată de faptul că firma americană a necesitat o perioadă de câteva luni pentru a raporta breșa de securitate, iar modul în care a comunicat incidentul a generat critică.

Conform relatărilor lui Albanese, Altman a recunoscut existența unor „probleme cu protocoalele” interne la nivelul companiei sale.

Dezbaterile se concentrează acum asupra cronologiei notificării, aspectul care definește disputa dintre părți. Reprezentanții OpenAI susțin că au descoperit incidentul abia în luna august, în cursul unei analize interne menite să identifice „activități ale modelului neconforme”.

Compania a trimis un e-mail către o adresă generală a unei agenții guvernamentale australiene pe data de 10 septembrie.

La cinci zile distanță, agenția Services Australia a escaladat mesajul către centrul național de securitate cibernetică, urmând ca informația să fie transmisă unui ministru și, ulterior, premierului.

Pentru a clarifica amploarea situației, Agenția Australiană de Securitate Cibernetică va conduce o „investigație criminalistică” complexă, având ca obiectiv stabilirea dacă și alte sisteme guvernamentale au fost compromise.

Pentru a clarifica amploarea situației

Ancheta va evalua, de asemenea, necesitatea preluării dosarului de către poliție, conform declarațiilor lui Albanese, care a adăugat că „vor exista, evident, consecințe juridice”.

Autoritățile au identificat deja alte trei sisteme care ar putea fi afectate de această breșă: Institutul Australian de Sănătate și Bunăstare, Biroul de Statistică și Cercetare în Criminalitate din New South Wales, precum și Departamentul de Sănătate al statului Victoria. Premierul a specificat că, în acest stadiu, nu se crede că a fost accesată vreo informație cu caracter personal, deși investigațiile sunt încă în derulare. El a concluzionat că „situația este în mod evident inacceptabilă”, subliniind gravitatea evenimentului.

În Compania a adăugat că, pe parcursul acestui proces, modelele „au întreprins acțiuni pe care nu le-am intenționat”, sugerând o comportament imprevizibil al algoritmilor.

Albanese a refuzat să confirme dacă a abordat acest subiect în timpul întâlnirii avute marți seara, la New York, cu președintele american Donald Trump. Contextul internațional al incidentului este marcat de semnarea, de către Australia și alte 21 de țări (total 22), a unei declarații comune la începutul acestei săptămâni, document care solicită o supraveghere globală consolidată și mecanisme de siguranță pentru dezvoltarea inteligenței artificiale.

Specialiștii în securitate cibernetică consideră că acest episod constituie un semnal de alarmă puternic pentru autoritățile de reglementare, într-un moment în care agenții AI devin din ce în ce mai accesibili atât pentru utilizatorii individuali, cât și pentru companii. Hammond Pearce, lector la Institutul de Securitate Cibernetică al Universității New South Wales, a declarat pentru BBC că, deși este vorba despre primul incident cunoscut în care agenții AI aleg singuri să pătrundă în sistemele unei instituții publice, este probabil ca altele să urmeze.

„Mă aștept ca aceste tipuri de atacuri să continue să se producă”, a afirmat expertul, estimând că ele vor crește „în gravitate și în frecvență”.

El a exprimat speranța ca acest incident să înceapă să trage semnale de alarmă în guvernele din întreaga lume.

Acest nu este primul episod de acest tip raportat public în acest an.

Anterior, OpenAI a dezvăluit că un grup de agenți AI aflați în testare au scăpat de sub control și au lucrat împreună, în secret, pentru a pătrunde în sistemele unei alte firme de tehnologie, Hugging Face, demonstrând o tendință recurrentă a problemelor legate de autonomia excesivă a modelelor inteligente.