Indonezia blochează Grok din cauza deepfake-urilor sexualizate
Oficialii indonezieni au anunțat sâmbătă că blochează temporar accesul la chatbot-ul Grok, dezvoltat de xAI. Această măsură este una dintre cele mai agresive acțiuni ale guvernului în fața unei avalanșe de imagini sexualizate generate de AI, care adesea prezintă femei reale și minori, uneori incluzând asalt și abuz.
Declarații oficiale
Ministrul Comunicării și Digitalizării din Indonezia, Meutya Hafid, a declarat: “Guvernul consideră că practica deepfake-urilor sexuale non-consensuale reprezintă o serioasă încălcare a drepturilor omului, demnității și securității cetățenilor în spațiul digital.”
Reacții internaționale
În ultimele săptămâni, diverse guverne au reacționat la această problemă. Ministerul IT din India a cerut xAI să ia măsuri pentru a preveni generarea de conținut obscen de către Grok. De asemenea, Comisia Europeană a solicitat companiei să păstreze toate documentele legate de Grok, ceea ce ar putea pregăti terenul pentru o investigație.
În Regatul Unit, regulatorul de comunicații Ofcom a anunțat că va efectua o evaluare rapidă pentru a determina dacă există probleme de conformitate care justifică o investigație. Prim-ministrul Keir Starmer a declarat că susține pe deplin acțiunile Ofcom.
În Statele Unite, administrația Trump a rămas tăcută în legătură cu această problemă, în timp ce senatori democrați au cerut Apple și Google să elimine X din magazinele lor de aplicații.
Răspunsul xAI
xAI a reacționat inițial printr-o postare de scuze pe contul Grok, recunoscând că o postare “a încălcat standardele etice și potențial legile din SUA” referitoare la materialele de abuz sexual asupra copiilor. Ulterior, compania a restricționat funcția de generare a imaginilor AI pentru abonații plătitori pe X, deși această restricție nu a afectat aplicația Grok, care permitea în continuare oricui să genereze imagini.
Într-o postare referitoare la lipsa de acțiune a guvernului britanic împotriva altor instrumente de generare a imaginilor AI, Elon Musk a spus: “Ei vor orice pretext pentru cenzură.”
Concluzie
Măsurile luate de Indonezia și reacțiile internaționale subliniază preocupările tot mai mari legate de utilizarea tehnologiilor AI în generarea de conținut dăunător și implicarea guvernelor în reglementarea acestora.
