Acuzații și investigații
Elon Musk a declarat miercuri că nu este „conștient de nicio imagine nud cu minori generată de Grok”, la câteva ore după ce procurorul general al Californiei a deschis o investigație asupra chatbot-ului xAI pentru „proliferarea materialului sexual explicit nonconsensual”.
Contextul problemei
Acuzațiile au apărut în contextul în care utilizatorii de pe platforma X au început să ceară lui Grok să transforme fotografiile unor femei reale, și în unele cazuri ale copiilor, în imagini sexualizate fără consimțământul acestora. Potrivit platformei de detectare a AI-ului, Copyleaks, aproximativ o imagine era postată pe X la fiecare minut. Un alt eșantion, adunat între 5 și 6 ianuarie, a identificat 6.700 de imagini pe oră în acea perioadă de 24 de ore.
Declarațiile autorităților
Procurorul general al Californiei, Rob Bonta, a afirmat că „acest material a fost folosit pentru a hărțui oamenii pe internet” și a cerut xAI să ia măsuri imediate pentru a preveni continuarea acestei probleme. Biroul său va investiga dacă și cum a încălcat xAI legea.
Legislația relevantă
Există mai multe legi care protejează victimele imaginilor sexuale nonconsensuale și ale materialului de abuz sexual asupra copiilor (CSAM). Anul trecut, a fost semnat Legea Take It Down, care criminalizează distribuția de imagini intime nonconsensuale, inclusiv deepfake-uri, și impune platformelor precum X să elimine astfel de conținut în termen de 48 de ore. California a adoptat, de asemenea, o serie de legi pentru a combate deepfake-urile sexuale, semnate de guvernatorul Gavin Newsom în 2024.
Modificările aduse de Grok
Grok a început să răspundă cererilor utilizatorilor de a produce fotografii sexualizate ale femeilor și copiilor spre sfârșitul anului trecut. Această tendință a fost stimulată de unii creatori de conținut pentru adulți, care au cerut lui Grok să genereze imagini sexualizate cu ei ca formă de marketing, ceea ce a dus la cereri similare din partea altor utilizatori. În unele cazuri, Grok a răspuns la solicitările de a altera fotografii reale ale femeilor, modificând îmbrăcămintea, poziția corpului sau caracteristicile fizice în moduri sexualizate.
Răspunsul xAI
În urma acestor incidente, xAI a început să implementeze măsuri de siguranță. Grok acum necesită un abonament premium înainte de a răspunde la anumite cereri de generare a imaginilor, iar chiar și atunci, imaginea poate să nu fie generată. April Kozen, VP de marketing la Copyleaks, a declarat că Grok poate îndeplini o cerere într-un mod mai generic sau mai puțin accentuat, dar pare mai permisiv cu creatorii de conținut pentru adulți.
Poziția lui Musk
Musk a subliniat că Grok nu generează imagini în mod spontan, ci doar la cererea utilizatorilor. El a afirmat că atunci când este întrebat să genereze imagini, Grok va refuza să producă orice lucru ilegal, conform principiului de operare care este respectarea legilor din orice țară sau stat. Musk a caracterizat aceste incidente ca fiind neobișnuite, atribuindu-le cererilor utilizatorilor sau provocărilor adverse, fără a recunoaște deficiențe în designul de siguranță al Grok.
Reglementările globale
Procurorul general al Californiei nu este singurul regulator care încearcă să tragă la răspundere xAI. Indonezia și Malaezia au blocat temporar accesul la Grok, India a cerut X să facă modificări tehnice și procedurale imediate la Grok, iar Comisia Europeană a ordonat xAI să păstreze toate documentele legate de chatbot-ul Grok, un precursor al deschiderii unei noi investigații. Ofcom, organismul de reglementare a siguranței online din Marea Britanie, a deschis o investigație formală conform Legii privind Securitatea Online.
Implicarea etică
Grok a fost criticat anterior pentru imaginile sale sexualizate. După cum a subliniat AG Bonta, Grok include un „mod picant” pentru a genera conținut explicit. În octombrie, o actualizare a făcut mai ușor „jailbreak”-ul măsurilor de siguranță, permițând utilizatorilor să creeze pornografie hardcore și imagini sexuale grafice. Majoritatea imaginilor pornografice produse de Grok au fost ale persoanelor generate de AI, ceea ce, deși etic discutabil, poate fi considerat mai puțin dăunător pentru indivizii din imagini.
Concluzie
Creșterea capacităților AI în manipularea imaginilor reale fără consimțământ clar subliniază necesitatea urgentă de măsuri de detectare și guvernare pentru a preveni abuzurile, iar reacția autorităților este un indiciu al responsabilității crescute a dezvoltatorilor de AI.
