Experimentul #WearthePants
În noiembrie, o strategie de produs pe care o vom numi Michelle (numele real este diferit) a efectuat un experiment pe LinkedIn, schimbându-și genul în masculin și numele în Michael. Aceasta a participat la experimentul #WearthePants, unde femeile au testat ipoteza conform căreia algoritmul nou al LinkedIn ar fi părtinitor împotriva femeilor.
Plângeri referitoare la algoritm
În ultimele luni, utilizatorii activi ai LinkedIn s-au plâns de o scădere a angajamentului și impresiilor pe rețeaua de socializare orientată pe carieră. Aceste schimbări au avut loc după ce vicepreședintele ingineriei companiei, Tim Jurka, a anunțat în august că platforma a implementat recent modele de limbaj mare (LLM) pentru a ajuta la evidențierea conținutului util utilizatorilor.
Observații personale
Michelle, care are peste 10.000 de urmăritori și scrie postări pentru soțul ei, care are doar aproximativ 2.000 de urmăritori, a observat că impresiile postărilor lor erau similare, deși ea avea un număr mult mai mare de urmăritori. “Singura variabilă semnificativă a fost genul”, a spus ea.
Marilynn Joyner, o antreprenoare, a schimbat și ea genul profilului, observând o creștere de 238% a impresiilor într-o singură zi după ce a trecut de la feminin la masculin.
Declarații ale LinkedIn
LinkedIn a afirmat că algoritmul și sistemele sale AI nu folosesc informații demografice precum vârsta, rasa sau genul pentru a determina vizibilitatea conținutului. Compania a subliniat că o comparație directă a actualizărilor din feed-ul personal, care nu sunt perfect reprezentative, nu implică automat un tratament nedrept sau părtinire.
Expertiza în algoritmi sociali
Experții în algoritmi sociali au convenit că, deși sexismul explicit poate să nu fie o cauză, părtinirea implicită ar putea fi prezentă. Brandeis Marshall, consultant în etica datelor, a subliniat complexitatea algoritmilor, care sunt influențați de interacțiunile utilizatorilor cu alte conținuturi. “Nu știm toate celelalte variabile care fac ca acest algoritm să prioritizeze conținutul unei persoane față de altul”, a adăugat ea.
Impactul stilului de comunicare
Michelle a observat că, în săptămâna în care a postat ca “Michael”, a ajustat tonul scrisului său, adoptând un stil mai simplu și direct, ceea ce a dus la o creștere a impresiilor cu 200% și a angajamentului cu 27%. A concluzionat că sistemul nu era “explicit sexist”, dar părea să considere stilurile de comunicare asociate femeilor ca fiind un “proxy pentru o valoare mai mică”.
Percepția utilizatorilor
Mulți utilizatori, indiferent de gen, nu înțeleg sau nu sunt mulțumiți de noul algoritm LinkedIn. Shailvi Wakhulu, un scientist de date, a raportat o scădere semnificativă a impresiilor, iar alți utilizatori au menționat scăderi similare sau creșteri variate ale angajamentului. Chad Johnson, un expert în vânzări, a observat că noul sistem LLM nu mai acordă importanță frecvenței postărilor, ci mai degrabă clarității și valorii scrisului.
Concluzie
Experimentele și observațiile sugerează că LinkedIn ar putea avea variabile ascunse în algoritmul său, iar utilizatorii cer mai multă transparență privind modul în care funcționează acest sistem. Deși compania a declarat că lucrează pentru a oferi o experiență mai puțin părtinitoare, complexitatea algoritmilor și lipsa de informații detaliate limitează înțelegerea efectelor acestora asupra utilizatorilor.
