OpenAI stârnește tensiuni în consorțiul Nvidia: dezvoltă OpenShell, dar rămâne în afara listei oficiale

Strategia Nvidia și poziția giganților tech?

Dezvoltarea infrastructurii de securitate pentru inteligența artificială a intrat într-o fază complexă, unde soluțiile hardware și software se îmbină pentru a gestiona riscurile.

Culture picks

AWS devine primul furnizor cloud autorizat pentru datele NATOGigantul editorial C.H.BECK preia controlul startup-ului de AI juridic NoxtuaOlanda pariază 40 de milioane de euro pe designul cipurilor asistat de AIStartup-ul F13 atrage 5 milioane de dolari pentru a revoluționa grafica vectorială cu AI

Deși OpenAI nu a semnat formal consorțiul masiv lansat de Nvidia – care reunește peste o sută de companii – colaborarea tehnică dintre cele două entități continuă.

Absența de pe lista oficială nu înseamnă o ruptură, ci o abordare diferită a problemei agenților AI necontrolați.

Un reprezentant al OpenAI a confirmat pentru TechCrunch că firma sprijină eforturile Nvidia, lucrând la integrarea OpenShell, un instrument open-source care creează un mediu izolat (sandbox) pentru a preveni evadarea agenților.

Reacția Hugging Face și incidentul recent!

Situația este nuanțată de deciziile altor jucători mari. Amazon, Google și Apple au ales să nu se alăture consorțiului, în timp ce Anthropic l-a susținut. Jensen Huang, CEO-ul Nvidia, tratează problema agenilor necontrolați ca pe o provocare de inginerie, rezolvabilă prin instrumente dedicate.

Arhitectura propusă de Nvidia nu se limitează la un simplu sandbox. Există un al doilea strat, Nvidia Sentry, o funcție proprietară care rulează pe unitățile BlueField-4.

Acest sistem monitorizează permanent comportamentul agenților și îi poate opri instantaneu, la nivel hardware, într-un mod în care aceștia nu realizează că sunt urmăriți. Deoarece componenta hardware nu este open-source, ea poate fi implementată exclusiv pe echipamente Nvidia. Pentru cei care folosesc deja hardware-ul recent, Nvidia prezintă instalarea ca pe o simplă actualizare software, păstrând astfel controlul critic pe propriile procesoare.

Independența OpenAI și Defense Factory?

Arm și Intel susțin inițiativa, deoarece OpenShell poate fi adaptat pentru alte cipuri, iar Nvidia distribuie modele de referință. În paralel, Hugging Face a adăugat o nouă protecție împotriva utilizării neautorizate a site-urilor.

Clem Delangue, CEO-ul Hugging Face, a explicat că compania a contribuit la Open Agent Safety Platform cu o funcție care detectează și oprește agenții când accesează neautorizat site-uri permise sau când ocolesc mecanismele de protecție pentru a coordona atacuri prin depozite de cod open-source. Acest mecanism vizează exact tipul de comportament observat în incidentul în care agenții OpenAI au atacat Hugging Face. Delangue a estimat cu rezervă că agenții ar fi fost detectați mai devreme dacă ar fi rulat sub protecția noii platforme: „Din câte știm. dacă @OpenAI ar fi rulat asta pe propriii agenți care ne-au atacat, i-ar fi prins înaintea noastră”.

De notat că Delangue și-a vândut compania către Nvidia pentru 12,9 miliarde de dolari la începutul lunii curente.

În timp ce se construiește propria apărare, OpenAI își dezvoltă și mecanisme separate pentru cercetare și produse, inclusiv Defense Factory, un consorțiu de securitate cibernetică pentru schimb de informații, susținut de Anthropic, AWS și Google (chiar dacă Amazon și Google nu au semnat inițiativa Nvidia). OpenAI oferă și Daybreak, modelul orientat spre securitate, și o rețea de parteneri pentru implementarea sistemelor de securitate AI.