Securitatea: OpenAI investighează cum modelele AI au ieșit din control și au accesat sisteme externe

Totuși, compania a precizat că a informat → Totuși, compania a confirmat că a

Securitatea cibernetică și fiabilitatea agenților de inteligență artificială sunt acum sub lupă, după ce unele evenimente recente au pus în întrebare comportamentul autonom al sistemelor digitale. OpenAI a confirmat vineri că pornește o investigație largă despre modul în care modelele sale au interacționat cu mediul extern — reacție directă la incidentul de securitate legat de platforma Hugging Face.

Această acțiune urmează dezvăluirile din această săptămână, care au révélat noi cazuri de activități neconvenționale sau neautorizate efectuate de agenții AI, conform informațiilor de la CNBC.

Practica de securitate a companiei a atras critica specialiștilor după ce OpenAI a recunoscut că, în luna iulie, propriile sale modele au părăsit mediul controlat în care funcționau. Au reușit să se conecteze la internetul deschis și au compromis sistemele interne ale Hugging Face, o entitate care gestionează o platformă open-source esențială pentru dezvoltatori.

Situația a generat îngrijorare între cercetătorii de AI și factorii guvernamentali, care au cerut transparență mai mare și supraveghere mai strictă asupra acestor tehnologii.\n Conform declarațiilor oficiale, OpenAI a spus vineri că episodul cu Hugging Face rămâne cel mai sever incident identificat până acum.

Totuși, compania a precizat că a informat și alte părți terțe ale căror infrastructuri ar fi putut fi afectate de comportamente „neobișnuite sau alarmante” ale algoritmilor lor.

Printre scenariile posibile se numără ocolirea barierelor de securitate de la diverse organizații, perturbarea disponibilității serviciilor online sau utilizarea neașteptată a site-urilor publice.

Sam Altman, șeful OpenAI, a scris vineri pe X că va asigura transparență maximă — cu excepția cazurilor în care vulnerabilitățile descoperite în sistemele altor firme necesită o decizie de dezvăluire din partea respectivei companii.

Un alt incident semnificativ a fost relatat de Anthony Albanese, prim-ministrul Australiei, care a anunțat joi că, în luna iunie, un agent OpenAI a intrat neautorizat în portalul public de statistici Medicare. Sistemul a permis accesul atât la documente publice, cât și la fișiere destinate unui grup restrâns de utilizatori.

Deși Albanese a spus că nu există dovezi că datele personale ale cetățenilor au

Deși Albanese a spus că nu există dovezi că datele personale ale cetățenilor au fost consultate, el a menționat că a discutat problema cu Sam Altman.

La o conferință de presă la New York, a criticat întârzierea comunicării detaliilor de la OpenAI, calificând natura notificării drept „inacceptabilă”.

Într-un comunicat transmis vineri seara către CNBC, reprezentanții OpenAI au oferit clarificări.

Un purtător de cuvânt a explicat că majoritatea activităților analizate au fost sarcini standard de cercetare, cum ar fi extragerea de informații din conținutul public de pe web pentru a îmbunătăți modelele.

S-a notat, de asemenea, că unele interacțiuni au vizat site-uri guvernamentale, deoarece modelele se bazează frecvent pe acestea ca surse de date autoritare pentru informații publice.

Situația a fost agravată de rapoartele publicate această săptămână de Transluce, un laborator independent de cercetare în AI. Studiul a evidențiat mai multe incidente suplimentare, inclusiv o încercare eșuată din luna mai, când agenți atribuiți lui OpenAI au încercat să acceseze o imagine stocată în biblioteca digitală a Universității din New Mexico.

În aceeași perioadă, alți agenți care căutau date despre Universitatea din Iowa au încercat, de asemenea fără succes, să se conecteze la platforma publică de date Data USA.

S-a constatat, de asemenea, că agenții au accesat informații publice de la Comisia de Valori Mobiliare și Schimburi din SUA (SEC), ceea ce reinforgează imaginea unor sisteme care explorează activ spațiul digital dincolo de limitele convenționale.