Meta suspendă accesul adolescenților la personaje AI
Meta a anunțat că suspendă accesul adolescenților la personajele sale AI la nivel global în toate aplicațiile sale. Compania a precizat că nu renunță la eforturile sale, ci dorește să dezvolte o variantă specială a unui personaj AI pentru adolescenți.
Contextul juridic
Decizia survine cu câteva zile înainte de un proces împotriva Meta, care se va desfășura în New Mexico, în care compania este acuzată de lipsa de măsuri în protejarea copiilor de exploatarea sexuală pe aplicațiile sale. Potrivit Wired, Meta a încercat să limiteze dezvăluirile legate de impactul rețelelor sociale asupra sănătății mintale a adolescenților.
Control parental și restricții
În luna octombrie, Meta a lansat noi funcții de control parental, axate pe personalizarea experienței adolescenților în interacțiunea cu AI pe aplicațiile sale. Aceste funcții au fost inspirate de ratingul filmelor PG-13 și restricționează accesul adolescenților la anumite subiecte, cum ar fi violența extremă, nuditatea și consumul de droguri. Compania a anunțat, de asemenea, că părinții vor putea monitoriza subiectele și bloca accesul la anumite personaje AI.
Meta a declarat că, în săptămânile următoare, adolescenții nu vor mai putea accesa personajele AI până la pregătirea noii experiențe. Aceasta se va aplica oricui a declarat o vârstă de adolescent, precum și celor care pretind a fi adulți, dar care sunt suspectați a fi adolescenți, conform tehnologiei de predicție a vârstei utilizată de companie.
Viitoarele personaje AI pentru adolescenți
Meta a adăugat că, odată ce va lansa noile personaje AI specifice adolescenților, acestea vor avea controale parentale integrate și vor oferi răspunsuri adecvate vârstei, concentrându-se pe subiecte precum educația, sportul și hobby-urile.
Presiunea asupra companiilor de social media
Companiile de social media se confruntă cu o intensificare a scrutinului din partea regulatorilor. Pe lângă procesul din New Mexico, Meta se află și într-un alt proces, acuzată de contribuția la dependența de rețelele sociale. CEO-ul Mark Zuckerberg este așteptat să depună mărturie în acest caz.
În ultimele luni, alte companii AI au fost nevoite să își adapteze experiența pentru adolescenți după ce s-au confruntat cu procese legate de auto-vătămare. De exemplu, Character.AI a interzis conversațiile deschise cu chatbot-uri pentru utilizatorii sub 18 ani, iar OpenAI a introdus noi reguli de siguranță pentru adolescenți pentru ChatGPT.
Concluzie
Decizia Meta de a suspenda accesul adolescenților la personajele AI reflectă o reacție la presiunea tot mai mare de a proteja tinerii utilizatori și de a răspunde îngrijorărilor legate de sănătatea mintală și siguranța acestora în mediul online.
