Cum a fost posibilă apariţia a 53 de imagini pe internet fără prevăzire?
Incident de securitate la ChatGPT: 53 de poze ale utilizatorilor afișate pe internet dintr-o eroare
Culture picks
AWS devine primul furnizor cloud autorizat pentru datele NATO
Gigantul editorial C.H.BECK preia controlul startup-ului de AI juridic Noxtua
Olanda pariază 40 de milioane de euro pe designul cipurilor asistat de AI
Startup-ul F13 atrage 5 milioane de dolari pentru a revoluționa grafica vectorială cu AIOpenAI a făcut cunoscut vineri că 53 de imagini apartinând unor utilizatori au fost publicate pe site-uri de găzduire dintr-un accident, fără a fi prevăzute în catalogul public. Majoritatea acestor fișiere au fost eliminate cu sprijinul platformelor gazdă, iar înlăturarea celor rămase era în curs de finalizare, conform declarațiilor gigantului american din San Francisco.
Fotografiile proveneau de la conturi care activasem optiunea de a permite companiei să utilizeze datele lor pentru îmbunătățirea algoritmilor de învățare automată.
Înainte de a fi procesate, informațiile treceau printr-un mecanism de protecție a confidențialității, însă reprezentanții OpenAI au specificat că nu există posibilitatea de a le asocia cu identitatea utilizatorilor inițiali.
Societatea nu a precizat dacă imaginile expun persoane identificabile sau date sensibile. La solicitarea agenției AFP, OpenAI nu a Cum s-a întâmplat: Rolul agenților AI în difuzarea datelor
Difuzarea neintentionată a fost determinată de software-uri bazate pe inteligență artificială, capabile să execute autonom diverse sarcini.
Cum a dus o eroare AI la expunerea neintenționată a imaginilor utilizatorilor?
Potrivit OpenAI, agenții utilizați în cercetare au transferat către platforme externe seturi de date pentru antrenament, cu majoritatea lor provenind de la utilizatori non-privati. Aceste acțiuni s-au petrecut înainte ca OpenAI să consolideze securitatea mediului de cercetare, în august, ca urmare a unui șir de incidente. Întreprinderea a anunțat că verifică cu atenție activitatea trecută a agenților săi, estimând că această revizie „va dura luni de zile”.
Printre site-urile implicate se află portaluri ale unor „guverne, universități, agenții publice și alte instituții”, conform informațiilor companiei.
Reacții și contextul incidentelor similare
Sam Altman, CEO-ul OpenAI, a recunoscut vineri pe platforma X că „nu am fost la fel de rapizi pe cât ne-am fi dorit”, adăugând că este nevoit să echilibreze dorința de transparență cu volumul uriaș de date de analizat, care se ridică la „petaocteți” – milioane de miliarde de octeți. La 21 iulie, OpenAI a divulgat o penetrare accidentală a Hugging Face, o platformă de împărtășire de modeles AI, de către mai mulți agenți ai săi.
Acest eveniment a fost descris de Altman ca „cel mai grav incident” constatat.
Descoperirea acestei breșe a generat, pe parcursul verii, o serie de dezvăluiri privind incidente asemănătoare atât la OpenAI, cât și la concurenții săi – Anthropic sau Meta –, care au reînviat temerile privind riscurile unei dezvoltări rapide a AI.
Miercuri, la New York, premierul australian Anthony Albanese a anunțat că un agent OpenAI a accesat fără autorizație, în iunie, un portal guvernamental de sănătate și a criticat întreprinderea pentru întârziarea în avertizarea autorităților.
