Acuzatii ale Anthropic împotriva laboratoarelor chineze de inteligență artificială
Anthropic acuză trei companii de inteligență artificială din China, respectiv DeepSeek, Moonshot AI și MiniMax, de crearea a peste 24.000 de conturi false pentru a exploata modelul său Claude, îmbunătățindu-și astfel propriile modele. Aceste laboratoare ar fi generat peste 16 milioane de interacțiuni cu Claude prin intermediul acestor conturi, utilizând o tehnică numită „distillation”. Anthropic susține că laboratoarele au vizat capabilitățile distincte ale lui Claude, inclusiv raționamentul agentic, utilizarea instrumentelor și programarea.
Detalii despre atacurile de distillation
Tehnica de distillation este o metodă de antrenament utilizată de laboratoarele AI pentru a crea versiuni mai mici și mai ieftine ale propriilor modele, dar poate fi folosită și de competitori pentru a copia produsele altor laboratoare. Într-o notă trimisă congresmenilor, OpenAI a acuzat DeepSeek de utilizarea distillation pentru a imita produsele sale. DeepSeek a câștigat atenție anul trecut prin lansarea modelului său open-source R1, care a atins performanțe comparabile cu cele ale laboratoarelor de vârf din SUA, la un cost mult mai mic. Se așteaptă ca DeepSeek să lanseze în curând modelul DeepSeek V4, care se estimează că va depăși performanțele lui Claude și ChatGPT în programare.
Scopul și amploarea atacurilor
Anthropic a monitorizat peste 150.000 de interacțiuni de la DeepSeek, care păreau să aibă ca scop îmbunătățirea logicii fundamentale și alinierea, în special în ceea ce privește alternativele sigure la cenzură pentru întrebările sensibile din punct de vedere politic. Moonshot AI a generat peste 3,4 milioane de interacțiuni vizând raționamentul agentic, utilizarea instrumentelor, programarea și analiza datelor. MiniMax a realizat 13 milioane de interacțiuni, concentrându-se pe programarea agentică și utilizarea instrumentelor. Anthropic a observat cum MiniMax a redirecționat aproape jumătate din traficul său pentru a extrage capabilitățile modelului Claude, imediat după lansarea acestuia.
Implicarea controalelor la export în dezvoltarea AI
Aceste acuzații apar în contextul discuțiilor despre cum ar trebui aplicate controalele la export pentru cipurile avansate de AI, o politică menită să limiteze dezvoltarea AI în China. Recent, administrația Trump a permis companiilor americane, precum Nvidia, să exporte cipuri avansate de AI (precum H200) către China. Criticii susțin că relaxarea acestor controale poate crește capacitatea de calcul a AI-ului din China într-un moment critic în cursa globală pentru dominanța în domeniul AI.
Riscurile și măsurile de răspuns
Anthropic afirmă că amploarea extracției realizate de DeepSeek, MiniMax și Moonshot necesită acces la cipuri avansate. „Atacurile de distillation întăresc astfel raționamentul pentru controalele de export: restricționarea accesului la cipuri limitează atât antrenamentul direct al modelului, cât și amploarea distillation-ului ilegal”, se arată în blogul Anthropic. Dmitri Alperovitch, președintele Silverado Policy Accelerator, a comentat că progresele rapide ale modelelor chineze de AI sunt rezultatul furtului prin distillation al modelurilor americane de vârf.
Riscuri de securitate națională
Anthropic avertizează că distillation-ul nu amenință doar dominanța AI-ului american, ci poate genera și riscuri pentru securitatea națională. Modelele construite prin distillation ilegală sunt puțin probabil să păstreze măsurile de securitate necesare pentru a preveni utilizarea AI-ului în activități precum dezvoltarea de arme biologice sau atacuri cibernetice malițioase. Există riscuri suplimentare dacă aceste modele sunt open-source, deoarece guvernele autoritare ar putea utiliza AI-ul de vârf pentru operațiuni cibernetice ofensive, campanii de dezinformare și supraveghere în masă.
În concluzie, acuzațiile aduse de Anthropic subliniază provocările cu care se confruntă industria AI în fața inovațiilor rapide din China și necesitatea unor măsuri mai stricte pentru a proteja tehnologiile avansate și securitatea națională.
