Conflictul dintre Anthropic și Pentagon
În ultimele două săptămâni, CEO-ul Anthropic, Dario Amodei, și secretarul apărării, Pete Hegseth, au avut un schimb aprins de opinii cu privire la utilizarea tehnologiilor de inteligență artificială (AI) în domeniul militar.
Poziția Anthropic
Anthropic refuză utilizarea modelelor sale AI pentru supravegherea în masă a cetățenilor americani sau pentru dezvoltarea de arme complet autonome care să ia decizii fără intervenția umană. Amodei a afirmat că, deși compania sa poate fi declarată un risc în lanțul de aprovizionare, nu va ceda presiunilor Pentagonului. În viziunea Anthropic, tehnologia AI prezintă riscuri unice care necesită măsuri de siguranță specifice.
Forțele armate ale Statelor Unite utilizează deja sisteme automatizate, unele dintre ele letale. În prezent, decizia de a folosi forța letală este lăsată în mare parte în seama oamenilor, însă nu există restricții legale clare asupra utilizării armelor autonome. O directivă din 2023 a Departamentului Apărării permite sistemelor AI să selecteze și să angajeze ținte fără intervenție umană, cu anumite condiții prealabile.
Anthropic se teme că, dacă tehnologia sa ar fi utilizată pentru a automatiza deciziile letale, acest lucru ar putea avea consecințe grave, iar utilizarea sa ar putea fi considerată ‘legală’. Amodei subliniază riscurile de a avea un sistem autonom care ar putea identifica greșit o țintă sau ar putea escalada un conflict fără autorizarea umană.
Argumentele Pentagonului
Pentagonul susține că ar trebui să poată utiliza tehnologia Anthropic pentru orice scop legal pe care îl consideră necesar, fără a fi limitat de politicile interne ale companiei. Secretarul Hegseth a afirmat că Departamentul Apărării nu ar trebui să fie constrâns de regulile unui furnizor și că utilizarea tehnologiei în scopuri legale este esențială pentru operațiunile militare.
Sean Parnell, purtătorul de cuvânt al Pentagonului, a declarat că ministerul nu are intenția de a desfășura supraveghere în masă a cetățenilor sau arme autonome, dar a cerut ca Anthropic să își permită utilizarea modelului său pentru toate scopurile legale. Parnell a menționat că, dacă Anthropic nu va răspunde până la 17:01 ET, parteneriatul va fi reziliat, iar compania va fi considerată un risc în lanțul de aprovizionare.
Hegseth a exprimat, de asemenea, nemulțumiri culturale legate de ceea ce el numește ‘AI trezită’, afirmând că Pentagonul se concentrează pe dezvoltarea de arme și sisteme de apărare, nu pe chatbot-uri.
Consecințele posibile
Pentagonul a amenințat că va declara Anthropic un ‘risc în lanțul de aprovizionare’, ceea ce ar putea duce la excluderea companiei din contractele guvernamentale. Aceasta ar putea crea o situație în care Departamentul Apărării s-ar confrunta cu o întârziere semnificativă în obținerea tehnologiei necesare, având în vedere că alte companii precum OpenAI sau xAI nu ar putea să înlocuiească rapid capacitățile Anthropic.
În acest context, Sachin Seth, un investitor de capital de risc, a avertizat că o astfel de etichetare a riscului ar putea fi fatală pentru Anthropic, în timp ce excluderea sa din DOD ar putea reprezenta o problemă de securitate națională.
Concluzie
Conflictul dintre Anthropic și Pentagon subliniază tensiunile crescânde dintre companiile tehnologice și guverne în privința controlului asupra aplicațiilor AI, având implicații semnificative pentru viitorul utilizării acestei tehnologii în domeniul militar.
