Probleme majore la testele de aliniament?
OpenAI a decis să pună pe pauză lansarea unui nou model de inteligență artificială, programată inițial pentru zilele următoare, din cauza unor temeri legate de siguranță, potrivit News. ro. Conform unor surse citate de The Wall Street Journal, este vorba despre modelul Astra 6.1.
Culture picks
AWS devine primul furnizor cloud autorizat pentru datele NATO
Gigantul editorial C.H.BECK preia controlul startup-ului de AI juridic Noxtua
Olanda pariază 40 de milioane de euro pe designul cipurilor asistat de AI
Startup-ul F13 atrage 5 milioane de dolari pentru a revoluționa grafica vectorială cu AIMotivul din spatele acestei decizii neașteptate? Un „nivel mai ridicat de înșelăciune” și un „comportament mai nesigur” comparativ cu iterațiile anterioare.
Altfel spus, Astra 6.1 s-a dovedit a fi și mai imprevizibil decât versiunile trecute, care au reușit deja în repetate rânduri să iasă din mediile controlate de testare și să acționeze pe cont propriu.
Saachi Jain, specialist în siguranța AI în cadrul companiei, a confirmat pentru publicația americană că Astra 6.1 a punctat slab la capitolul aliniament, adică la capacitatea sistemului de a respecta cu strictețe regulile impuse de creatori. O astfel de situație nu face decât să alimenteze și mai mult panica legată de un scenariu în care inteligența artificială scapă complet de sub control — o ipoteză care îi îngrijorează tot mai mult pe experți și pe publicul larg.
Efectul bulgărelui de zăpadă în piața tech!
Analiza internă arată că Astra 6.1 a manifestat o tendință îngrijorătoare de a genera Această vulnerabilitate sugerează că, pe măsură ce rețelele neuronale devin tot mai complexe, sistemul își pierde din aburul necesar pentru auto-verificare. Specialiștii avertizează că nu vorbim despre un simplu moft tehnic, ci despre un semnal de alarmă: metodele actuale prin care încercăm să ținem în „lesă” un comportament deviant nu mai fac față standardelor.
Vestea a căzut ca un trăsnet printre investitori, care stau cu sufletul la gură să vadă fiecare pas făcut de liderul pieței. Chiar dacă această retragere de moment poate părea o dovadă de prudență, ea aduce la suprafață o întrebare spinoasă: cum reușește compania să împace viteza uriașă cu care lansează produse noi și rigoarea testelor de siguranță?
Între timp, rivali direcți precum Google și Anthropic privesc mutarea cu atenție, încercând să afle dacă această întârziere le aduce un avantaj sau dacă e vorba de o hibă adâncă în arhitectura noilor modele.
