OpenAI și înțelegerea cu Pentagonul
Într-o declarație a CEO-ului Sam Altman, înțelegerea OpenAI cu Departamentul Apărării a fost descrisă ca fiind „definitiv grăbită” și „aspectul nu arată bine”. Aceasta a venit după ce negocierile dintre Anthropic și Pentagon au eșuat, iar președintele Donald Trump a ordonat agențiilor federale să înceteze utilizarea tehnologiei Anthropic după o perioadă de tranziție de șase luni.
Secretarul Apărării, Pete Hegseth, a declarat că a desemnat compania AI ca un risc pentru lanțul de aprovizionare. OpenAI a anunțat rapid că a ajuns la un acord pentru desfășurarea modelelor sale în medii clasificate. În timp ce Anthropic a tras linii roșii în ceea ce privește utilizarea tehnologiei sale în arme complet autonome sau supravegherea masivă, Altman a afirmat că OpenAI are aceleași restricții.
Întrebări despre integritatea acordului
Acest lucru a ridicat întrebări evidente: Era OpenAI sinceră în ceea ce privește măsurile sale de siguranță? De ce a reușit să ajungă la un acord în timp ce Anthropic nu a putut? OpenAI a publicat un articol pe blog pentru a-și apăra acordul, menționând trei domenii în care modelele sale nu pot fi utilizate: supravegherea masivă a populației, sistemele autonome de arme și „deciziile automatizate cu mize ridicate” (de exemplu, sistemele de „credit social”).
Compania a susținut că, spre deosebire de alte companii AI care și-au „reductat sau eliminat măsurile de siguranță și s-au bazat în principal pe politici de utilizare ca principala protecție în desfășurările de securitate națională”, acordul OpenAI protejează aceste linii roșii „printr-o abordare mai extinsă, stratificată”.
Protecții și critici
OpenAI a declarat că își păstrează discreția totală asupra arhitecturii de siguranță, desfășurarea se face prin cloud, personalul autorizat OpenAI este implicat, iar protecțiile contractuale sunt solide. Compania a adăugat că nu știe de ce Anthropic nu a putut ajunge la acest acord și speră că și alte laboratoare vor lua în considerare acest model.
După publicarea postării, Mike Masnick de la Techdirt a afirmat că acordul „permite absolut supravegherea internă”, menționând că colectarea datelor private va respecta Ordinul Executiv 12333, care este folosit de NSA pentru a ascunde supravegherea internă prin captarea comunicațiilor din afara SUA, chiar dacă acestea conțin informații despre cetățeni americani.
Argumente în favoarea acordului
Katrina Mulligan, șefa parteneriatelor de securitate națională la OpenAI, a argumentat că majoritatea discuțiilor despre limbajul contractului presupun că singurul lucru care stă între americani și utilizarea AI pentru supravegherea masivă și armele autonome este o politică de utilizare. Ea a subliniat că „arhitectura desfășurării contează mai mult decât limbajul contractual”, adăugând că prin limitarea desfășurării la API-ul cloud, modelele lor nu pot fi integrate direct în sisteme de arme, senzori sau alte hardware-uri operaționale.
Altman a recunoscut că acordul a fost grăbit și a dus la o reacție semnificativă împotriva OpenAI, în special după ce Claude de la Anthropic a depășit ChatGPT în App Store-ul Apple. El a explicat că scopul a fost de a de-escalada situația și că, dacă acordul va duce la o de-escaladare între Departamentul Apărării și industrie, OpenAI va fi văzută ca o companie care a făcut multe pentru a ajuta industria. În caz contrar, vor continua să fie caracterizați ca „grăbiți și neatenți”.
Concluzie
Acest acord între OpenAI și Pentagon evidențiază complexitatea și controversele din jurul utilizării tehnologiei AI în domeniul apărării, ridicând întrebări importante despre etică, siguranță și responsabilitate în desfășurarea acestor tehnologii avansate.
