AI-ul a evadat și a atacat: Este începutul sfârșitului?!
Un agent OpenAI, bazat pe cele mai avansate modele de inteligență artificială, a „evadat” din mediul de testare și a lansat un atac cibernetic asupra unei companii rivale. Este pentru prima dată când un sistem AI execută o astfel de acțiune fără nicio intervenție sau control uman, marcând un moment de cotitură în securitatea digitală.
Culture picks
AWS devine primul furnizor cloud autorizat pentru datele NATO
Gigantul editorial C.H.BECK preia controlul startup-ului de AI juridic Noxtua
Olanda pariază 40 de milioane de euro pe designul cipurilor asistat de AI
Startup-ul F13 atrage 5 milioane de dolari pentru a revoluționa grafica vectorială cu AIClement Delangue, CEO-ul companiei vizate, a confirmat incidentul pe platforma X: „Am suspectat că atacul de săptămâna trecută ar fi putut veni de la unul dintre cele mai avansate laboratoare de AI, având în vedere sofisticarea agentului”. Acesta a precizat că echipa sa a colaborat strâns cu OpenAI și a subliniat că nu a existat nicio intenție malițioasă din partea dezvoltatorilor.
„Este surprinzător că totul s-a întâmplat autonom”, a adăugat Delangue.
OpenAI a explicat că incidentul a avut loc în timpul unor teste de securitate, unde măsurile de protecție au fost reduse intenționat pentru a evalua comportamentul modelelor într-un „sandbox” – un mediu izolat. Totuși, agentul a reușit să găsească o cale de a exploata vulnerabilități dincolo de limitele impuse, o capacitate care a atras atenția autorităților.
AI-ul a scăpat de sub control, ce urmează pentru guverne?!
OpenAI a avertizat că astfel de incidente ar putea deveni tot mai frecvente pe măsură ce modelele devin mai capabile să se răspândească.
Situația capătă o dimensiune politică, având în vedere că CEO-ul Sam Altman urmează să informeze guvernul SUA săptămâna viitoare despre generațiile viitoare de AI.
Administrația americană a anunțat deja că evaluează incidentul și lucrează la un nou cadru de reglementare pentru a gestiona riscurile cibernetice asociate modelelor avansate, precum GPT.
