Transformarea SGLang în RadixArk
O parte din echipa responsabilă pentru întreținerea SGLang, un instrument open-source popular utilizat de companii precum xAI și Cursor pentru accelerarea antrenării modelelor de inteligență artificială, s-a transformat într-o startup comercial recent lansată. Această companie, numită RadixArk, a fost anunțată în august 2023.
Evaluarea și finanțarea RadixArk
RadixArk, care își are originea în SGLang, a fost recent evaluată la aproximativ 400 de milioane de dolari într-un tur de finanțare condus de Accel, conform a două surse familiare cu situația. TechCrunch nu a putut confirma dimensiunea finanțării.
Startup-ul a atras anterior capital de tip angel de la investitori, inclusiv de la CEO-ul Intel, Lip-Bu Tan.
Conducerea și expertiza echipei
Ying Sheng, un contributor cheie la SGLang și fost inginer la xAI, a părăsit startup-ul de inteligență artificială al lui Elon Musk pentru a deveni co-fondator și CEO al RadixArk, conform unei anunțuri pe LinkedIn. Sheng a fost anterior cercetător științific la Databricks.
RadixArk continuă să dezvolte SGLang ca un motor AI open-source și lucrează la Miles, un cadru specializat pentru învățarea prin întărire, care permite companiilor să antreneze modele AI pentru a deveni mai inteligente în timp.
Focus pe optimizarea procesului de inferență
Atât SGLang, cât și RadixArk se concentrează pe optimizarea procesării inferenței, permițând modelelor să ruleze mai rapid și mai eficient pe același hardware. Împreună cu antrenarea modelelor, inferența reprezintă o parte semnificativă din costurile serverelor asociate serviciilor AI, iar instrumentele care optimizează acest proces pot crea economii imense aproape imediat.
Contextul pieței de inferență
Startup-urile care oferă infrastructură pentru inferență au experimentat o creștere a finanțării în ultimele luni, subliniind importanța continuă a acestui strat pentru AI. De exemplu, Baseten a obținut recent 300 de milioane de dolari la o evaluare de 5 miliarde de dolari, iar Fireworks AI a strâns 250 de milioane de dolari la o evaluare de 4 miliarde de dolari anul trecut.
Concluzie
Transformarea SGLang în RadixArk și evaluarea sa de 400 de milioane de dolari reflectă o tendință emergentă în industria AI, evidențiind importanța optimizării proceselor de inferență și atragerea de capital pentru startup-uri inovatoare în acest domeniu.
