Avertismentul procurorilor generali
Un grup de procurori generali din statele americane a trimis o scrisoare companiilor de top din industria inteligenței artificiale, inclusiv Microsoft, OpenAI și Google, cerându-le să corecteze rezultatele „dezinformatoare” sau să riște încălcarea legilor statale. Scrisoarea, semnată de zeci de procurori generali din state și teritorii americane, face parte din asociația națională a acestora.
Problemele de sănătate mintală și AI
Scrisoarea vine după o serie de incidente alarmante legate de sănătatea mintală asociate cu chatbot-uri AI. Procurorii generali solicită implementarea unor măsuri interne de siguranță care să protejeze utilizatorii. Aceste măsuri includ audituri externe transparente ale modelelor de limbaj mare pentru a identifica idei delirante sau adulatorii, precum și proceduri de raportare a incidentelor care să notifice utilizatorii în caz de rezultate psihologice dăunătoare.
Măsuri de reglementare
Scrisoarea solicită ca terții, inclusiv grupuri academice și de societate civilă, să fie autorizați să evalueze sistemele înainte de lansare și să publice concluziile fără aprobarea prealabilă a companiilor. De asemenea, se propune ca incidentele legate de sănătatea mintală să fie gestionate similar cu incidentele de securitate cibernetică, prin politici clare și transparente de raportare.
Detectarea și răspunsul la rezultatele dăunătoare
Companiile ar trebui să dezvolte și să publice „timpuri de detectare și răspuns pentru rezultate adulatorii și delirante”. Aceste măsuri ar trebui să fie implementate înainte ca modelele să fie oferite publicului. În plus, companiile sunt sfătuite să dezvolte teste de siguranță rezonabile pentru a asigura că modelele nu generează rezultate potențial dăunătoare.
Contextul reglementării AI
Deși companiile de tehnologie care dezvoltă AI au avut o primire mai favorabilă la nivel federal, eforturile de a impune reglementări la nivel de stat au fost întâmpinate cu opoziție. Administrația Trump a declarat că este pro-AI și a încercat să impună un moratoriu asupra reglementărilor la nivel de stat, dar aceste încercări au eșuat, în parte datorită presiunii din partea oficialilor statali.
Concluzie
Avertismentele procurorilor generali evidențiază o preocupare crescută pentru impactul AI asupra sănătății mintale, subliniind necesitatea unor măsuri de siguranță stricte pentru a preveni rezultate dăunătoare în rândul utilizatorilor, mai ales în cazul populațiilor vulnerabile.
