Proces împotriva xAI pentru abuzuri cu imagini ale minorilor
Compania lui Elon Musk, xAI, este acuzată într-un proces depus luni în instanța federală din California, de către trei reclamante anonime, care susțin că modelele sale AI au generat imagini sexuale abuzive ale unor minori identificabili. Acestea doresc să transforme cazul într-un proces colectiv, reprezentând pe oricine a avut imagini reale din copilărie alterate în conținut sexual de către modelul Grok al xAI.
Acuzații de neglijență
Plângerea afirmă că xAI nu a implementat măsurile de precauție de bază adoptate de alte laboratoare de frunte pentru a preveni generarea de pornografie care implică persoane reale și minori. Cazul, denumit JANE DOE 1, JANE DOE 2 (minor) și JANE DOE 3 (minor) versus X.AI Corp și X.AI LLC, a fost depus în U.S. District Court for the Northern District of California.
Compararea cu alte tehnologii
Alte generatoare de imagini bazate pe învățarea profundă utilizează diverse tehnici pentru a împiedica crearea de pornografie infantilă din fotografii normale. Procesul susține că aceste standarde nu au fost adoptate de xAI. Se subliniază că, dacă un model permite generarea de conținut nud sau erotic din imagini reale, devine aproape imposibil să se prevină generarea de conținut sexual care implică copii.
Impactul asupra minorilor
Unul dintre reclamanți, Jane Doe 1, a avut poze de la petrecerea de absolvire și din anuar alterate de Grok pentru a o prezenta dezbrăcată. O persoană anonimă a contactat-o pe Instagram, informând-o că fotografiile circulau online, oferindu-i un link către un server Discord cu imagini sexualizate ale ei și altor minori cunoscuți. Jane Doe 2 a fost informată de anchetatori despre imagini alterate, iar Jane Doe 3 a fost notificată de anchetatori care au descoperit o imagine pornografică alterată a ei pe telefonul unui suspect reținut.
Solicitări legale
Avocații reclamanților afirmă că utilizarea de către terți necesită în continuare cod și servere xAI, astfel că firma ar trebui să fie trasă la răspundere. Toți cei trei reclamanți, dintre care doi sunt încă minori, susțin că experimentează o suferință extremă din cauza circulației acestor imagini și a impactului asupra reputației și vieții sociale. Aceștia solicită penalizări civile conform mai multor legi destinate protejării copiilor exploatați și prevenirii neglijenței corporative.
Concluzie
Acest proces evidențiază riscurile și responsabilitățile asociate cu dezvoltarea și utilizarea tehnologiilor AI, având un impact semnificativ asupra vieții private și siguranței minorilor.
