Provocările reglementării inteligenței artificiale
Recenta ruptură între Washington și Anthropic a evidențiat lipsa unor reguli coerente privind inteligența artificială (IA). O coaliție bipartizană de experți a elaborat un cadru pentru dezvoltarea responsabilă a IA, denumit Declarația Pro-Human, care a fost finalizată înainte de confruntarea dintre Pentagon și Anthropic, dar care a dobândit o relevanță sporită în contextul acestor evenimente.
Declarația Pro-Human și prioritățile sale
Declarația, semnată de sute de experți și figuri publice, subliniază că omenirea se află la o răscruce. O cale, denumită „curse de înlocuire”, duce la înlocuirea oamenilor ca muncitori și decidenți, în timp ce puterea se concentrează în instituții necontrolate și în mașinile lor. Cealaltă cale se axează pe IA care extinde semnificativ potențialul uman.
Scenariul optim depinde de cinci piloni cheie: menținerea controlului uman, evitarea concentrării puterii, protejarea experienței umane, păstrarea libertății individuale și responsabilizarea juridică a companiilor de IA. Printre prevederile mai dure se numără interzicerea dezvoltării superinteligenței până la obținerea unui consens științific că poate fi realizată în siguranță, implementarea unor butoane de oprire obligatorii pe sistemele puternice și interzicerea arhitecturilor capabile de auto-replicare sau îmbunătățire autonomă.
Contextul actual și importanța reglementării
Declarația a fost lansată într-o săptămână în care urgența acesteia a devenit evidentă. Secretarul apărării, Pete Hegseth, a desemnat Anthropic – a cărui IA operează deja pe platforme militare clasificate – ca un „risc de lanț de aprovizionare”, după ce compania a refuzat să ofere Pentagonului utilizarea nelimitată a tehnologiei sale. Acest conflict a scos la iveală costurile inactivității Congresului pe tema IA.
Testarea prealabilă și reglementările propuse
Tegmark a subliniat că nu există o reglementare similară în domeniul farmaciei, unde FDA nu permite lansarea unor medicamente până când nu sunt considerate sigure. El consideră că siguranța copiilor reprezintă un punct de presiune care ar putea sparge impasul actual. Declarația solicită teste obligatorii înainte de lansarea produselor de IA, în special pentru chatboți și aplicații destinate tinerilor, acoperind riscuri precum ideile suicidare și manipularea emoțională.
Tegmark a afirmat că, odată ce se va stabili principiul testării prealabile pentru produsele destinate copiilor, domeniul de aplicare se va extinde inevitabil. Vor fi adăugate cerințe suplimentare, cum ar fi testarea pentru prevenirea utilizării IA în scopuri teroriste sau asigurarea că superinteligența nu poate răsturna guvernul SUA.
Sprijinul divers al coaliției
Coaliția care susține Declarația Pro-Human include figuri variate, de la foști consilieri ai lui Trump, precum Steve Bannon, până la Susan Rice, fostă consilieră națională de securitate în administrația Obama. Aceștia își dau seama că, în fața alegerii între un viitor pentru oameni și unul pentru mașini, toți au un interes comun.
Concluzie
Declarația Pro-Human evidențiază necesitatea urgentă de a reglementa dezvoltarea inteligenței artificiale, subliniind riscurile potențiale ale unei curse necontrolate spre superinteligență și importanța implicării umane în acest proces.
