Roblox introduce un sistem de chat AI în timp real
Roblox a anunțat introducerea unei funcții de reformulare a chat-ului, alimentată de inteligența artificială, care va înlocui automat cuvintele interzise cu un limbaj mai respectuos. Această nouă caracteristică depășește filtrul de text existent, care înlocuia cuvintele interzise cu simbolul „#”. Conform companiei, utilizatorii erau adesea deranjați de șirurile de „####”, ceea ce făcea conversațiile greu de urmărit.
În loc să afișeze doar semne de întrebare, textul filtrat va fi reformulat într-un limbaj mai respectuos, apropiat de intenția originală a utilizatorului. De exemplu, un mesaj care spunea „Hurry TF up!” va fi reformulat în „Hurry up!” Toți participanții la chat vor fi notificați că mesajul a fost reformulat pentru a menține discuțiile civilizate.
Importanța comunicării pe platformă
„Chatul este esențial pentru modul în care oamenii se conectează, coordonează și joacă pe Roblox”, a declarat Rajiv Bhatia, vicepreședinte al produsului de utilizator și descoperire la Roblox. „Reformularea în timp real ajută la menținerea jocului și conversațiilor pe calea cea bună, orientând limbajul către ceea ce este adecvat. Această abordare reduce fricțiunile din chat, menținând în același timp standardele care ajută la păstrarea civilității în comunitate.”
Îmbunătățiri ale sistemului de filtrare
Roblox a anunțat și actualizări ale sistemului de filtrare a textului pentru a detecta mai multe variații ale limbajului interzis. Compania susține că rezultatele inițiale arată o îmbunătățire a capacității de a detecta leetspeak și încercările mai sofisticate de a ocoli filtrele. Aceasta a permis reducerea prevalenței falselor negative în ceea ce privește partajarea sau solicitarea informațiilor personale cu 20 de ori.
Contextul legal și măsuri de siguranță
Anunțul de joi vine la scurt timp după ce Roblox a introdus o verificare facială obligatorie pentru accesul la chat-uri, ca urmare a unui val de procese legate de siguranța copiilor din partea procurorilor generali din Texas, Kentucky și Louisiana. Procesele au fost intentate ca răspuns la rapoarte conform cărora Roblox expunea utilizatorii tineri la riscuri periculoase, precum grooming-ul și conținutul explicit.
Concluzie
Prin introducerea acestui sistem de chat AI, Roblox își propune să îmbunătățească experiența utilizatorilor și să asigure un mediu mai sigur, în conformitate cu standardele de siguranță pentru tineri, contribuind astfel la protejarea comunității sale.
