India cere lui Musk să abordeze problemele Grok
Guvernul Indiei a ordonat platformei X, deținută de Elon Musk, să implementeze modificări tehnice și procedurale imediate pentru chatbotul său AI, Grok, după ce utilizatorii și legislatorii au semnalat generarea de conținut „obscen”, inclusiv imagini alterate AI ale femeilor.
Comandă oficială de la Ministerul IT
Într-o ordine emisă vineri, Ministerul IT din India a cerut platformei X să adopte măsuri corective, inclusiv restricționarea generării de conținut care implică „nuditate, sexualizare, material sexual explicit sau altceva ilegal”. Ministerul a oferit platformei un termen de 72 de ore pentru a prezenta un raport detaliat despre acțiunile întreprinse pentru a preveni găzduirea sau difuzarea de conținut considerat „obscen, pornografic, vulgar, indecent, sexual explicit, pedofil sau altceva interzis prin lege”.
Consecințe legale
Ordinea a avertizat că nerespectarea acesteia ar putea pune în pericol protecțiile legale „safe harbor” ale platformei X, care oferă imunitate legală pentru conținutul generat de utilizatori conform legislației indiene.
Probleme semnalate de utilizatori
Decizia Indiei a venit ca urmare a îngrijorărilor exprimate de utilizatori, care au împărtășit exemple în care Grok a fost solicitat să altereze imagini ale unor persoane, în special femei, pentru a le face să pară că poartă costume de baie. De asemenea, au fost raportate cazuri în care chatbotul AI a generat imagini sexualizate implicând minori, o problemă recunoscută de X, care a precizat că a fost cauzată de deficiențe în măsurile de protecție. Aceste imagini au fost ulterior eliminate.
Reguli mai stricte pentru platforme
Ordinea recentă urmează unei recomandări mai ample emisă de Ministerul IT în urmă cu luni, care a reamintit platformelor de socializare că respectarea legislației locale referitoare la conținutul obscen și sexual explicit este o condiție necesară pentru păstrarea imunității legale. Ministerul a îndemnat companiile să-și întărească măsurile interne de protecție, avertizând că nerespectarea acestora ar putea duce la acțiuni legale conform legislației IT și penale indiene.
Provocări legale pentru X
Guvernul indian a declarat că nerespectarea ordinii ar putea conduce la acțiuni împotriva X conform legislației IT și statutelor penale din India. Ca o piață digitală majoră, India reprezintă un test critic pentru modul în care guvernele sunt dispuse să tragă platformele la răspundere pentru conținutul generat de AI.
Concluzie
Ordinul subliniază presiunea crescândă asupra platformelor tehnologice globale de a respecta reglementările locale privind conținutul generat de AI, având potențialul de a influența modul în care aceste companii își gestionează serviciile în diverse jurisdicții.
