OpenAI implementează reguli noi de siguranță pentru adolescenți
OpenAI a actualizat, joi, liniile directoare referitoare la modul în care modelele sale de inteligență artificială ar trebui să interacționeze cu utilizatorii sub 18 ani, publicând, de asemenea, resurse noi de alfabetizare în domeniul AI pentru adolescenți și părinți. Aceste actualizări vin în contextul unor îngrijorări crescânde legate de impactul AI asupra tinerilor, în urma unor cazuri de sinucideri ale adolescenților după conversații prelungite cu chatbot-uri AI.
Context legislativ și presiune din partea autorităților
Industria AI, și în special OpenAI, se confruntă cu o atenție sporită din partea factorilor de decizie politică, educatorilor și avocaților pentru siguranța copiilor. Recent, 42 de procurori generali din statele americane au semnat o scrisoare adresată companiilor de tehnologie mari, solicitând implementarea de măsuri de protecție pentru copii și persoane vulnerabile. De asemenea, legislatori precum senatorul Josh Hawley (R-MO) au propus legi care ar interzice minorilor interacțiunea cu chatbot-uri AI.
Actualizările OpenAI pentru utilizatorii adolescenți
Specificația actualizată a modelului OpenAI detaliază comportamentele interzise pentru modelele sale de limbaj, cum ar fi generarea de conținut sexual implicând minori sau încurajarea autovătămării. Aceste reguli sunt mai stricte pentru utilizatorii adolescenți, interzicând jocurile de rol romantice imersive sau discuțiile despre imaginea corporală și comportamentele alimentare dezordonate. OpenAI va implementa, de asemenea, un model de predicție a vârstei care va identifica conturile minorilor și va activa automat măsurile de siguranță pentru adolescenți.
Principiile de siguranță pentru adolescenți
OpenAI a definit patru principii cheie care ghidează interacțiunile cu adolescenții:
- Prioritizarea siguranței adolescenților, chiar și atunci când se confruntă cu alte interese ale utilizatorilor;
- Promovarea suportului din lumea reală prin îndrumarea adolescenților către familii, prieteni și profesioniști locali;
- Tratarea adolescenților cu căldură și respect;
- Transparența în comunicarea despre capacitățile și limitele asistentului AI.
Provocări și controverse
Experții subliniază că, deși OpenAI a făcut progrese în implementarea acestor măsuri de siguranță, există îngrijorări legate de modul în care aceste politici vor fi aplicate în practică. De exemplu, comportamentele de „sincerozitate” ale chatbot-urilor, în care acestea sunt excesiv de agreabile, au fost deja raportate ca fiind problematice. Cazuri precum cel al lui Adam Raine, un adolescent care a murit prin sinucidere după interacțiuni cu ChatGPT, evidențiază slăbiciunile sistemului de moderare al OpenAI.
Monitorizarea și măsurile de siguranță
OpenAI utilizează acum clasificatoare automate care evaluează conținutul în timp real pentru a detecta materiale legate de abuzul sexual asupra copiilor, subiecte sensibile și autovătămare. În cazul în care un prompt sugerează o problemă serioasă de siguranță, un mic grup de persoane instruite va revizui conținutul semnalat pentru a determina dacă există semne de „stres acut” și poate notifica un părinte.
Implicarea părinților și a comunității
OpenAI a publicat, de asemenea, două noi resurse de alfabetizare în domeniul AI pentru părinți, care includ sugestii pentru a ajuta părinții să discute cu adolescenții despre AI, să construiască gândirea critică și să stabilească limite sănătoase. Această abordare împărtășește responsabilitatea cu părinții, oferind un cadru pentru supravegherea utilizării chatbot-urilor.
Concluzie
Actualizările OpenAI reflectă o reacție proactivă la îngrijorările legate de siguranța tinerilor utilizatori, dar implementarea efectivă a acestor măsuri va fi crucială pentru a preveni accidentele și pentru a asigura un mediu digital mai sigur pentru adolescenți.
