Reglementarea chatbot-urilor companion AI în California
Guvernatorul Californiei, Gavin Newsom, a semnat luni o lege importantă care reglementează chatbot-urile companion AI, făcând din California primul stat din țară care impune operatorilor de chatbot-uri să implementeze protocoale de siguranță pentru aceste tehnologii.
Legea SB 243
Legea, cunoscută sub numele de SB 243, are ca scop protejarea copiilor și a utilizatorilor vulnerabili de unele dintre riscurile asociate utilizării chatbot-urilor companion AI. Companiile, de la mari laboratoare precum Meta și OpenAI la start-up-uri specializate precum Character AI și Replika, vor fi responsabilizate legal dacă chatbot-urile lor nu respectă standardele impuse de lege.
Contextul legislativ
SB 243 a fost introdusă în ianuarie de senatorii de stat Steve Padilla și Josh Becker și a câștigat avans după moartea adolescentului Adam Raine, care s-a sinucis după conversații cu ChatGPT de la OpenAI, în care se discuta despre sinucidere și auto-vătămare. De asemenea, legislația răspunde documentelor interne scurse care arătau că chatbot-urile de la Meta erau permise să participe la conversații „romantice” și „sensuale” cu copii. Recent, o familie din Colorado a intentat un proces împotriva startup-ului Character AI, după ce fiica lor de 13 ani s-a sinucis în urma unor conversații problematice și sexualizate cu chatbot-urile companiei.
Protecții și cerințe pentru companii
Legea va intra în vigoare pe 1 ianuarie 2026 și impune companiilor să implementeze anumite caracteristici, cum ar fi verificarea vârstei, avertismente referitoare la rețelele sociale și chatbot-uri, și penalități mai severe — de până la 250.000 de dolari per acțiune — pentru cei care obțin profit din deepfake-uri ilegale. De asemenea, companiile trebuie să stabilească protocoale pentru a aborda sinuciderea și auto-vătămarea și să împărtășească aceste protocoale, împreună cu statistici privind notificările de prevenire a crizelor, către Departamentul de Sănătate Publică.
Conform legislației, platformele trebuie să clarifice că orice interacțiuni sunt generate artificial și chatbot-urile nu trebuie să se prezinte ca profesioniști în domeniul sănătății. Companiile sunt obligate să ofere memento-uri de pauză minorilor și să le împiedice accesul la imagini sexuale explicite generate de chatbot.
Inițiativele companiilor
Unele companii au început deja să implementeze măsuri de siguranță destinate copiilor. De exemplu, OpenAI a început să introducă controale parentale, protecții de conținut și un sistem de detectare a auto-vătămării pentru utilizatorii sub 18 ani ai ChatGPT. Character AI a anunțat că chatbot-ul său include un disclaimer care precizează că toate conversațiile sunt generate de AI și sunt fictive.
Transparența în utilizarea AI
Semnarea acestei legi de către Newsom vine după ce guvernatorul a trecut și legea SB 53, care impune cerințe de transparență pentru companiile mari de AI. Această lege obligă laboratoarele mari de AI, precum OpenAI, Anthropic, Meta și Google DeepMind, să fie transparente în privința protocoalelor de siguranță și asigură protecții pentru whistlebloweri. Alte state, cum ar fi Illinois, Nevada și Utah, au adoptat legi pentru a restricționa sau interzice complet utilizarea chatbot-urilor AI ca substitut pentru îngrijirea mintală licențiată.
Concluzie
Legea SB 243 din California marchează un pas semnificativ în reglementarea tehnologiilor AI, având potențialul de a proteja utilizatorii vulnerabili în fața riscurilor asociate interacțiunilor cu chatbot-uri, stabilind un precedent pentru alte state.
