Scott Wiener și lupta pentru transparența riscurilor provocate de tehnologiile avansate
Senatorul din California, Scott Wiener, revine cu un nou proiect de lege privind siguranța AI, SB 53, după ce, în 2024, a avut o tentativă nereușită cu proiectul SB 1047, care ar fi făcut companiile tehnologice responsabile pentru posibilele daune cauzate de sistemele lor de inteligență artificială. Proiectul anterior a fost respins de guvernatorul Gavin Newsom, care a exprimat temeri că o astfel de reglementare ar putea afecta dezvoltarea AI în Statele Unite.
SB 53, care a fost introdus recent, a câștigat sprijin din partea unor companii din Silicon Valley, precum Anthropic și Meta, care consideră că reglementarea AI este necesară, dar trebuie să fie echilibrată cu inovația. Proiectul impune, pentru prima dată, cerințe de raportare a siguranței pentru marii jucători din domeniul AI, cum ar fi OpenAI și Google, care în prezent nu au obligația de a-și publica rezultatele testelor pentru sistemele AI.
Detalii despre SB 53
SB 53 ar obliga laboratoarele de AI care generează venituri de peste 500 de milioane de dolari să publice rapoarte de siguranță pentru cele mai avansate modele de AI. Proiectul se concentrează pe cele mai grave riscuri asociate cu AI, inclusiv contribuția la decese umane, atacuri cibernetice și arme chimice. De asemenea, va crea canale protejate pentru angajații laboratoarelor de AI pentru a raporta îngrijorările legate de siguranță și va stabili un cluster de calcul în cloud, CalCompute, pentru a oferi resurse de cercetare AI în afara marilor companii tehnologice.
Compararea cu SB 1047
Un motiv pentru care SB 53 este mai popular decât SB 1047 este că acesta din urmă ar fi făcut companiile de AI responsabile pentru daunele cauzate de modelele lor, în timp ce SB 53 se concentrează pe transparență și auto-raportare. Deși unele companii din industrie consideră că reglementarea AI ar trebui să fie lăsată în seama guvernului federal, Wiener susține că statele trebuie să intervină din lipsa de încredere în reglementările federale.
Perspectiva lui Scott Wiener asupra reglementării AI
Wiener consideră că este crucial ca California să conducă națiunea în privința siguranței AI, fără a bloca inovația. El recunoaște că tehnologia are potențialul de a provoca daune semnificative și subliniază că reglementările sunt necesare pentru a proteja interesul public. Răspunzând întrebărilor despre siguranța sistemelor AI, el a spus că nu consideră că acestea sunt inerent sigure, dar că există oameni care lucrează pentru a reduce riscurile.
Reacții și sprijin din partea industriei
Wiener a avut discuții cu diverse companii, inclusiv cu laboratoare mari care nu sprijină complet proiectul, dar care nu se opun în modul în care au făcut-o cu SB 1047. Sprijinul de la Anthropic sugerează o schimbare în abordarea industriei față de reglementările de siguranță. În timp ce unele companii pot considera că reglementarea ar trebui să provină de la nivel federal, Wiener subliniază că este important ca legile la nivel de stat să abordeze aceste probleme urgent.
Mesajul lui Wiener pentru Guvernatorul Newsom
Wiener a adresat un mesaj către guvernatorul Newsom, subliniind că a fost luată în considerare opinia sa atunci când SB 53 a fost redactat, sperând ca acesta să semneze proiectul de lege. El a evidențiat că reglementările sunt esențiale pentru a asigura un echilibru între inovație și siguranța publică în contextul avansului rapid al tehnologiilor AI.
În concluzie, SB 53 are potențialul de a modifica peisajul reglementării AI în Statele Unite, stabilind un precedent pentru transparență și responsabilitate în rândul marilor companii tehnologice, în timp ce se caută un echilibru între inovație și protecția societății.
