Expansiunea tehnologiei de detectare a deepfake-urilor
YouTube își extinde tehnologia de detectare a asemănărilor, care identifică deepfake-urile generate de AI, la un grup pilot format din oficiali guvernamentali, candidați politici și jurnaliști. Compania a anunțat acest lucru marți. Membrii grupului pilot vor avea acces la un instrument care detectează conținutul AI neautorizat și le permite să solicite eliminarea acestuia dacă consideră că încalcă politica YouTube.
Tehnologia și funcționarea ei
Tehnologia a fost lansată anul trecut pentru aproximativ 4 milioane de creatori YouTube din Programul Parteneriat YouTube, după teste anterioare. Similar sistemului existent Content ID, care detectează material protejat prin drepturi de autor în videoclipurile utilizatorilor, funcția de detectare a asemănărilor caută fețe simulate create cu instrumente AI. Aceste instrumente sunt folosite pentru a răspândi dezinformarea și a manipula percepția publicului, folosind identitățile falsificate ale unor figuri notabile, cum ar fi politicienii sau alți oficiali guvernamentali.
Obiectivele programului pilot
Prin acest program pilot, YouTube își propune să echilibreze libertatea de exprimare a utilizatorilor cu riscurile asociate tehnologiei AI care poate genera o asemănare convingătoare a unei figuri publice. Leslie Miller, vicepreședinte al Afacerilor Guvernamentale și Politicii Publice YouTube, a afirmat că expansiunea este despre integritatea conversației publice și a subliniat că riscurile de impersonare AI sunt în special ridicate pentru cei din spațiul civic.
Evaluarea cererilor de eliminare
Miller a explicat că nu toate meciurile detectate vor fi eliminate la cerere. YouTube va evalua fiecare cerere conform liniilor directoare ale politicii existente de confidențialitate, pentru a determina dacă conținutul este parodie sau critică politică, care sunt forme de exprimare protejate.
Legislația și protecțiile federale
Compania susține aceste protecții la nivel federal, sprijinind Legea NO FAKES în D.C., care ar reglementa utilizarea AI pentru a crea recreații neautorizate ale vocii și asemănării vizuale ale unei persoane.
Procedura de utilizare a instrumentului
Pentru a folosi noul instrument, testerii eligibili din grupul pilot trebuie să își dovedească identitatea prin încărcarea unei selfie și a unui ID guvernamental. Apoi, pot crea un profil, vizualiza meciurile care apar și solicita opțional eliminarea acestora. YouTube intenționează să ofere în cele din urmă utilizatorilor capacitatea de a preveni încărcările de conținut care încalcă regulile înainte de a deveni publice sau, posibil, să le permită să monetizeze acele videoclipuri, similar cu modul în care funcționează sistemul Content ID.
Etichetarea videoclipurilor AI
Videoclipurile generate de AI vor fi etichetate ca atare, dar plasarea acestor etichete nu este consistentă. Pentru unele, eticheta apare în descrierea videoclipului, în timp ce videoclipurile care se concentrează pe subiecte mai “sensibile” vor aplica eticheta în fața videoclipului. Aceasta este aceeași abordare pe care YouTube o folosește pentru toate conținuturile generate de AI.
Statistici și perspective de viitor
YouTube nu a oferit informații despre câte eliminări ale acestor deepfake-uri AI au fost gestionate de tehnologia de detectare în mâinile creatorilor, dar a menționat că volumul de conținut eliminat până acum a fost “foarte mic”. Miller a adăugat că pentru mulți creatori, conținutul creat este benign sau aditiv pentru afacerea lor generală. Totuși, acest lucru ar putea să nu fie cazul în cazul deepfake-urilor care implică oficiali guvernamentali, politicieni sau jurnaliști.
Extinderea tehnologiei de detectare
Pe viitor, YouTube intenționează să extindă tehnologia de detectare a deepfake-urilor și în alte domenii, inclusiv voci vorbite recunoscibile și alte proprietăți intelectuale, cum ar fi personaje populare.
În concluzie, inițiativa YouTube de a implementa această tehnologie de detectare a deepfake-urilor pentru figuri publice reflectă o preocupare crescută pentru integritatea informației și protecția împotriva dezinformării în era digitală.
