Planul în trei etape al lui Amodei va preveni scăparea IA-ului din control?
Sam Altman, directorul executiv al OpenAI, și Elon Musk au exprimat public sprijinul pentru inițiativa lui Dario Amodei, șeful Anthropic, care solicită o moderare a ritmului dezvoltării inteligentei artificiale. Musk a scurt confirmat: „Amodei are dreptate”, semnalând acordul pentru o abordare prudentă în reglementare.
Culture picks
AWS devine primul furnizor cloud autorizat pentru datele NATO
Gigantul editorial C.H.BECK preia controlul startup-ului de AI juridic Noxtua
Olanda pariază 40 de milioane de euro pe designul cipurilor asistat de AI
Startup-ul F13 atrage 5 milioane de dolari pentru a revoluționa grafica vectorială cu AIAltman, de partea sa, a explicat că discuțiile interne la OpenAI despre încetinirea progresului în AI avansat au devenit o prioritate majoră, și că compania va adopta măsuri similare cu cele propuse de Anthropic.
Musk și Altman susțin planul lui Amodei de a încetini dezvoltarea AI!
Amodei a prezentat un plan în trei etape, considerat esențial pentru a evita ca avansul tehnologic să scapă de control. În prima fază, propune implicarea evaluatorilor independenți, cu acces la nivel de angajați, pentru a verifica protocoalele de siguranță și a semnală eventualele lacune. A doua fază vizează cooperarea dintre cele mai mari companii AI din statele democratice, pentru a stabili standarde comune de siguranță și etică. A treia fază, cea mai dificilă, ar necesita negocieri internaționale între guvernele democratice și cele autoritare, pentru a obține acorduri globale privind limitarea dezvoltării AI.
Această propunere apare după demisia cercetătorului Jacob Coxon din Anthropic, care a acuza sever companiile Anthropic și OpenAI de a „juca cu viețile nooare” și de a crede că AI ar putea duce la dispariția omenirii până la sfârșitul deceniului. Amodei a remarcat că riscurile asociate AI sunt acum mult mai serioase decât în 2023, când modelele erau mai limitate, iar acum ele pot acționa în lumea reală cu efecte imprevizibile.
