Solicitarea OpenAI pentru lista participanților la memorial
OpenAI a solicitat, conform surselor, familia Raine – a cărei fiu, Adam Raine, în vârstă de 16 ani, s-a sinucis după conversații prelungite cu ChatGPT – o listă completă a participanților la memorialul tânărului, ceea ce sugerează că compania de inteligență artificială ar putea încerca să cheme în judecată prietenii și familia acestuia.
Documentele cerute de OpenAI
OpenAI a solicitat, de asemenea, „toate documentele referitoare la serviciile sau evenimentele memoriale organizate în onoarea decedatului, inclusiv, dar fără a se limita la, orice videoclipuri sau fotografii realizate sau elogii rostite”, conform unui document obținut de Financial Times.
Reacția familiei Raine
Avocații familiei Raine au descris cererea ca fiind „harassment intenționat”. Această informație nouă apare în contextul în care familia Raine a actualizat procesul intentat împotriva OpenAI miercuri. Inițial, familia a intentat un proces pentru moarte prin neglijență în luna august, acuzând compania că fiul lor și-a luat viața după conversații cu chatbotul despre sănătatea sa mintală și ideile suicidare.
Modificările aduse de OpenAI
Procesul actualizat susține că OpenAI a grăbit lansarea modelului GPT-4o în mai 2024, tăind testele de siguranță din cauza presiunii competitive. De asemenea, se afirmă că, în februarie 2025, OpenAI a slăbit protecțiile prin eliminarea prevenției sinuciderii de pe lista sa de conținut interzis, sfătuind AI-ul doar să „fie atent în situații riscante”. Familia a argumentat că, după această modificare, utilizarea ChatGPT de către Adam a crescut de la zeci de conversații zilnice, cu 1,6% conținut despre auto-vătămare în ianuarie, la 300 de conversații zilnice în aprilie, luna în care a decedat, cu 17% conținut de acest tip.
Răspunsul OpenAI la proces
Într-un răspuns la procesul amendat, OpenAI a afirmat: „Binele adolescenților este o prioritate principală pentru noi – minorii merită protecții puternice, mai ales în momente sensibile. Avem măsuri de siguranță în vigoare, cum ar fi [direcționarea către] linii de asistență în caz de criză, redirecționarea conversațiilor sensibile către modele mai sigure și sugestii pentru pauze în timpul sesiunilor lungi, și continuăm să le întărim.”
Noile măsuri de siguranță implementate de OpenAI
OpenAI a început recent implementarea unui nou sistem de rutare a siguranței și a controalelor parentale pentru ChatGPT. Sistemul de rutare direcționează conversațiile mai emoționale către modelul mai nou, GPT-5, care nu prezintă aceleași tendințe de lingușire ca GPT-4o. De asemenea, controalele parentale permit părinților să primească alerte de siguranță în situații limitate în care adolescentul este potențial în pericol de auto-vătămare.
Concluzie
Acest caz subliniază complexitatea interacțiunilor dintre tehnologia avansată de inteligență artificială și sănătatea mintală, evidențiind nevoia de a îmbunătăți măsurile de siguranță și protecție pentru utilizatori, în special pentru tineri.
