Suspensia Gemmei de către Google
Google a anunțat că a suspendat activitatea modelului AI Gemma din studioul său de inteligență artificială, în urma acuzațiilor de calomnie aduse de senatoarea Marsha Blackburn din Tennessee. Aceasta a acuzat modelul AI că a fabricat acuzații false de comportament sexual necorespunzător împotriva sa.
Acuzațiile senatorului Blackburn
Într-o scrisoare adresată CEO-ului Google, Sundar Pichai, Blackburn a menționat că, atunci când a fost întrebată dacă a fost acuzată de viol, Gemma a răspuns afirmând că, în timpul unei campanii pentru Senatul de Stat în 1987, un ofițer de stat a susținut că Blackburn “a exercitat presiuni asupra lui pentru a obține medicamente cu prescripție și că relația a implicat acte non-consensuale”.
Senatoarea a subliniat că “nimic din toate acestea nu este adevărat, nici măcar anul campaniei, care a fost de fapt 1998”. Ea a adăugat că linkurile către articolele de știri care susțin aceste afirmații duc la pagini de eroare și articole de știri fără legătură. “Nu a existat niciodată o astfel de acuzație, nu există o astfel de persoană și nu există astfel de povești de știri”, a mai spus ea.
Contextul și reacția Google
În scrisoarea sa, Blackburn a făcut referire și la un proces intentat de activistul conservator Robby Starbuck împotriva Google, în care Starbuck susține că modelele de inteligență artificială ale companiei (inclusiv Gemma) au generat afirmații defăimătoare despre el, numindu-l “violator de copii” și “abuzator sexual în serie”.
Markham Erickson, vicepreședintele Google pentru afaceri guvernamentale și politici publice, a recunoscut că “halucinațiile” sunt o problemă bine cunoscută și că Google lucrează intens pentru a le reduce. Blackburn a argumentat că fabricarea de către Gemma a afirmațiilor false nu este o “halucinație inofensivă”, ci un “act de defăimare produs și distribuit de un model AI deținut de Google”.
Biasul perceput al sistemelor AI
Susținătorii lui Donald Trump din industria tehnologică s-au plâns de “cenzura AI”, susținând că chatboții populari prezintă o părtinire liberală. De asemenea, Trump a semnat un ordin executiv în acest an, interzicând “AI-ul woke”. Deși Blackburn nu a susținut întotdeauna politicile tehnologice ale administrației Trump, ea a exprimat aceleași îngrijorări în scrisoarea sa, susținând că există “un model constant de părtinire împotriva figurilor conservatoare demonstrat de sistemele AI ale Google”.
Decizia Google de a elimina Gemma
Într-o postare pe X, Google nu a făcut referire specifică la acuzațiile din scrisoarea lui Blackburn, dar a afirmat că a observat rapoarte despre utilizatori non-dezvoltatori care au încercat să utilizeze Gemma în AI Studio și să îi pună întrebări factuale. Compania a clarificat că “nu am avut niciodată intenția ca acest model să fie un instrument de consum sau să fie folosit în acest mod”.
În consecință, Google a decis să elimine Gemma din AI Studio, continuând însă să facă modelele disponibile prin API.
Concluzie
Decizia Google de a suspenda Gemma subliniază provocările și implicațiile etice ale utilizării inteligenței artificiale în contextul politic și social, evidențiind nevoia de răspundere și precauție în dezvoltarea și implementarea acestor tehnologii.
