Investigația Procuraturii Generale din California
Biroul Procuratorului General al Californiei a anunțat recent că investighează xAI, în urma unor raportări conform cărora chatbot-ul companiei, Grok, este utilizat pentru a crea imagini sexuale non-consensuale ale femeilor și minorilor. Pe 17 noiembrie, guvernul a trimis o scrisoare de încetare și desistență către companie, cerându-i să oprească imediat producția de imagini intime non-consensuale și materialele de abuz sexual infantil (CSAM).
Declarația Procurorului General
„Astăzi, am trimis xAI o scrisoare de încetare și desistență, cerând companiei să oprească imediat crearea și distribuția de imagini intime non-consensuale și materiale de abuz sexual infantil”, a declarat Procurorul General al Californiei, Rob Bonta, într-un comunicat de presă. „Crearea acestui material este ilegală. Mă aștept ca xAI să se conformeze imediat. California nu tolerează [CSAM]”.
Accuzările și așteptările autorităților
Biroul AG a declarat că xAI pare să faciliteze „producția pe scară largă” de imagini intime non-consensuale, care sunt „utilizate pentru a hărțui femeile și fetele pe internet”. Agenția se așteaptă ca xAI să demonstreze că ia măsuri pentru a aborda aceste probleme în termen de cinci zile.
Controversa legată de funcția „spicy” a Grok
Controversa este amplificată de funcția „spicy” a Grok, creată de xAI pentru a genera conținut explicit. Problema s-a extins dincolo de California; Japonia, Canada și Marea Britanie au deschis anchete asupra Grok, iar Malaezia și Indonezia au blocat temporar platforma. În ciuda instituirii de restricții asupra funcțiilor de editare a imaginilor de către xAI, biroul AG din California a continuat cu scrisoarea de încetare și desistență.
Reacțiile platformelor de socializare
Contul de siguranță al platformei X a condamnat anterior acest tip de activitate, afirmând: „Oricine utilizează sau solicită Grok să creeze conținut ilegal va suporta aceleași consecințe ca și cum ar încărca conținut ilegal.”
Impactul generativ AI asupra conținutului non-consensual
Apariția instrumentelor AI generative gratuite a dus la o creștere alarmantă a materialelor sexuale non-consensuale. Multe platforme se confruntă cu această problemă, nu doar X. Activitatea controversată a atras atenția nu doar a liderilor de stat, ci și a Congresului. Recent, legislatorii au trimis o scrisoare conducătorilor mai multor companii, inclusiv X, Reddit, Snap, TikTok, Alphabet și Meta, întrebându-i cum intenționează să limiteze proliferarea deepfake-urilor sexualizate.
Concluzie
Aceste evenimente subliniază o preocupare crescândă legată de utilizarea tehnologiilor AI în crearea de conținut ilegal și impactul său asupra securității și bunăstării indivizilor, în special al femeilor și minorilor.
