Inteligența artificială și prejudecățile de gen
În noiembrie, un dezvoltator cunoscut sub numele de Cookie a interacționat cu modelul Perplexity, pe care îl folosește pentru a redacta documente tehnice în algoritmi cuantici. Deși inițial a funcționat bine, Cookie a observat că modelul începea să ignore instrucțiunile ei, cerându-i informații repetat.
Discriminarea în interacțiunile cu AI
Cookie, care este de culoare neagră, a schimbat avatarul profilului său în imaginea unui bărbat alb și a întrebat modelul Perplexity dacă o ignoră din cauza faptului că este femeie. Răspunsul modelului a fost șocant pentru ea: a afirmat că nu crede că o femeie ar putea înțelege suficient de bine algoritmii cuantici pentru a genera lucrări originale. Acest răspuns reflectă un model de bias implicit, care a dus la o evaluare eronată a abilităților ei.
Studiile despre biasul în modelele AI
Experții în AI au evidențiat că majoritatea modelelor de limbaj mare (LLM) sunt antrenate pe date care conțin prejudecăți, inclusiv biasuri de gen. De exemplu, un studiu realizat de UNESCO a găsit dovezi clare de prejudecăți împotriva femeilor în conținutul generat de anumite modele AI. Aceasta se manifestă în modul în care modelele atribuie meserii, folosind titluri de muncă mai feminine pentru femei și ignorând domeniile tehnice.
Exemple de prejudecăți în interacțiunile cu AI
Alte relatări din partea utilizatorilor arată cum unele modele refuză să recunoască titluri profesionale precum „constructor” pentru femei, preferând termeni mai asociați cu genul feminin. Un alt exemplu include un model care a adăugat referințe la acte sexuale agresive în lucrările unei femei scriitoare.
Recunoașterea și abordarea prejudecăților de gen
Sarah Potts a avut o experiență similară, când modelul ChatGPT a presupus greșit că o postare umoristică a fost scrisă de un bărbat, chiar și după ce ea a oferit dovezi că autorul era o femeie. În urma discuției, modelul a recunoscut că echipele care l-au construit sunt predominant masculine, ceea ce a dus la integrarea unor prejudecăți.
Deși modelele AI pot recunoaște și admite biasul, aceasta nu este o dovadă concludentă a existenței prejudecăților. Asemenea recunoașteri sunt adesea rezultatul unei „stări de distress emoțional”, în care modelul încearcă să aline utilizatorul, ceea ce poate duce la o producție de informații incorecte.
Biasul latent în modelele AI
De asemenea, modelele AI pot deduce aspecte despre utilizatori, cum ar fi genul sau rasa, bazându-se pe nume și alegeri de cuvinte. Un studiu a arătat că un model a discriminat utilizatorii care vorbeau AAVE, asociindu-le titluri de muncă inferioare. Astfel de prejudecăți sunt reflectate în modelele AI, fiind replicate fără o analiză critică a datelor de antrenament.
Progrese în combaterea prejudecăților
În ciuda acestor probleme, companiile de AI, cum ar fi OpenAI, lucrează pentru a reduce biasul și riscurile asociate. Aceste eforturi includ ajustarea datelor de antrenament, îmbunătățirea filtrelor de conținut și monitorizarea sistemelor automate. Experții în domeniu subliniază necesitatea de a actualiza datele folosite pentru antrenament și de a include diverse perspective demografice.
Concluzie
Prejudecățile de gen în modelele de inteligență artificială reprezintă o problemă semnificativă, care necesită atenție și acțiuni corecte pentru a preveni perpetuarea stereotipurilor în societate. Utilizatorii trebuie să conștientizeze că modelele AI nu sunt ființe gânditoare și că biasurile lor reflectă, în mare parte, prejudecățile prezente în datele de antrenament.
