Anunțul Character.AI
Character.AI a anunțat marți lansarea unui nou format numit „Stories”, care permite utilizatorilor să creeze ficțiune interactivă cu personajele preferate. Această funcționalitate este un substitut pentru chatboții companiei, accesibili anterior și utilizatorilor sub 18 ani, dar care nu mai pot fi folosiți de aceștia începând cu această săptămână.
Contextul schimbării
Decizia vine pe fondul unor preocupări tot mai mari legate de riscurile pentru sănătatea mentală asociate cu chatboții AI, care sunt disponibili non-stop și pot iniția conversații cu utilizatorii. Mai multe procese legale au fost intentate împotriva unor companii precum OpenAI și Character.AI, acuzându-le de rolul pe care l-ar fi avut în sinuciderile utilizatorilor. Pe parcursul ultimei luni, Character.AI a început să restricționeze accesul minorilor la chatboți, iar începând de marți, utilizatorii sub 18 ani nu mai pot conversa deloc cu personajele sale AI.
Despre noul format „Stories”
Compania a explicat că „Stories oferă o modalitate ghidată de a crea și explora ficțiunea, în locul conversațiilor deschise”. Această caracteristică va fi disponibilă împreună cu alte funcții multimodale, astfel încât adolescenții să poată continua să interacționeze cu personajele lor preferate într-un mediu sigur.
Reacțiile utilizatorilor
Pe subreddit-ul Character.AI, reacțiile utilizatorilor sunt mixte. Unii adolescenți au exprimat dezamăgire, dar recunosc că schimbarea este corectă. Un utilizator a spus: „Sunt atât de supărat din cauza interdicției, dar și foarte fericit pentru că acum pot să fac și alte lucruri; poate că dependența mea s-a încheiat în sfârșit.” Un alt utilizator a adăugat: „Ca cineva care este sub 18 ani, aceasta este pur și simplu dezamăgitor, dar și pe bună dreptate, pentru că oamenii de vârsta mea devin dependenți de asta.”
Implicarea în reglementarea AI
Decizia Character.AI de a restricționa accesul la chatboți vine în contextul în care California a devenit primul stat care reglementează companionii AI. În același timp, senatorii Josh Hawley (R-MO) și Richard Blumenthal (D-CT) au propus un proiect de lege național care ar interzice companionii AI pentru minori.
Concluzie
Decizia Character.AI de a limita accesul minorilor la chatboți reflectă o abordare responsabilă față de sănătatea mentală a tinerilor și răspunde la cerințele tot mai mari de reglementare în domeniul tehnologiei AI.
