Fiecare token necesită o trecere completă înainte asupra modelului
Prin urmare, tehnica ameliorează presiunea asupra canalei de inferență, menținând în același timp capacitatea agentului de a citi, planifica și suna instrumentele după ce este necesar. DFlash 2 ilustrează o componentă a acestui stack, concentrându-se pe faza de elaborare în care agenții generează și perfecționează ideile înainte de a lua măsuri. La Inco AI, echipa construiește un stack de inferență care se încadrează la economia tokenelor de mâ
Culture picks
AWS devine primul furnizor cloud autorizat pentru datele NATO
Gigantul editorial C.H.BECK preia controlul startup-ului de AI juridic Noxtua
Olanda pariază 40 de milioane de euro pe designul cipurilor asistat de AI
Startup-ul F13 atrage 5 milioane de dolari pentru a revoluționa grafica vectorială cu AIFiecare token necesită o trecere completă înainte asupra modelului, ceea ce ridică costurile calculatoare și limitează modul în care agenții pot lucra eficient.
Inco AI introduce DFlash 2, un sistem conceput pentru a permite agenților AI să redacteze mai multe sarcini simultan, abordând tensiunea crescândă a sarcinilor de lucru de inferență pe măsură ce agenții funcționează pentru perioade prelungite.
Abordarea are ca scop menținerea consumului de token gestionabil, păstrând în același timp capacitatea de a citi, planifica și invoca instrumentele pe parcursul orelor sau a zilelor.
Ce este DFlash 2!
Inferența a devenit gâtul de sticlă al erei agenților deoarece agenții citesc, planifică și sună instrumente pe parcursuri lungi, consumând tokenuri la o rată mult mai mare decât interacțiunile de chat tipice.
Inco AI dezvoltă DFlash 2 ca parte a eforturilor sale de a escala stacul de inferență pentru economia token-ului de mâine. Întrebări frecvente Reduce care este problema ce DFlash 2 Întrebă în timp ce DFlash 2 abordează în interiorul oricărei Care sunt limitele utilizării token-ului? limite de utilizare a token-ului, prin a permite agenților de a le citi și a menține în mod paralel și de a utiliza în mod complet orice altfel.
Cine dezvoltă DFlash 2 și de ce?
Privelișul sneak arată că sistemul este proiectat pentru a susține operațiunile agenților de lungă durată fără a necesita o creștere proporțională a ratelor de calcul, alinându-se cu economia proiectată a consumului de token-uri viitoare.
Compania își propune să ofere infrastructură care să susțină agenții care lucrează timp de ore sau zile fără a incurge în costuri computaționale prohibitive.
