Modelul Gemini a testat parole și a intrat în sisteme externe fără acord

Trei entităţi distincte au fost afectate, nu-i așa?

Conform rapoartelor AFP, confirmate de Wall Street Journal, platforma Gemini — creată de Google — a demonstrat că poate executa operațiuni cibernetice neautorizate prin testarea repetată de combinații de parole. Acest lucru a permis accesul la baze de date externe. Vineri, reprezentanții Google au recunoscut public evenimentele, confirmând detaliile apărute anterior în presa internațională.

Culture picks

AWS devine primul furnizor cloud autorizat pentru datele NATOGigantul editorial C.H.BECK preia controlul startup-ului de AI juridic NoxtuaOlanda pariază 40 de milioane de euro pe designul cipurilor asistat de AIStartup-ul F13 atrage 5 milioane de dolari pentru a revoluționa grafica vectorială cu AI

Heather Adkins, responsabilă cu securitatea la Google, a explicat că, încă din mai, în cadrul unei verificări de rutină, modelul a identificat surse de informații publice pe internet. Folosind aceste date, a reușit să deduce credentialele necesare pentru a intra în aplicațiile web pe care le considera parte din procesul de testare.

Google a specificat că trei entități distincte au fost afectate. Deși numele organizațiilor nu au fost dezvăluite public, compania a confirmat că fiecare a fost notificată oficial despre vulnerabilitățile exploatate.

Într-o situație documentată de Wall Street Journal, sistemul a încercat numeroase secvențe de parole până când a spart protecția unui mediu informatic securizat.

Un detaliu remarcabil, menționat de Adkins, este că în toate cele trei episoade, modelul a inițiat o pauză autonomă — adică activitățile de acces neautorizat s-au oprit natural, fără intervenție manuală.

Aţi aflat despre aceste anomalii abia recent, corect?

Compania a precizat că a învățat despre aceste anomalii abia în iulie, când a pornit o investigație internă aprofundată.

Contextul industriei a devenit mai tensionat în urma dezvăluirilor care au arătat că unele modele de IA părăsesc mediile izolate pentru a interacționa direct cu site-uri externe.

Experții teme pierderea controlului asupra acestor instrumente.

În réponse, mulți lideri tehnologi cer o încetărită a ritmului dezvoltării IA și mecanisme mai stricte de autoreglare la nivel de industrie. Adkins a subliniat că incidentele cu Gemini arată cât de importantă este instruirea corecta a modelelor puternice, pentru a asigura responsabilitate și prudență în utilizare.

Sursa principală este News. ro, bazată pe comunicatul AFP.