OpenAI caută un nou lider în domeniul pregătirii
OpenAI își propune să angajeze un nou executiv responsabil pentru studierea riscurilor emergente legate de inteligența artificială, acoperind domenii precum securitatea cibernetică și sănătatea mentală. CEO-ul Sam Altman a recunoscut că modelele AI „încep să prezinte unele provocări reale”, inclusiv „impactul potențial al modelelor asupra sănătății mentale” și modele care sunt „atât de eficiente în securitatea cibernetică încât încep să descopere vulnerabilități critice”.
Responsabilitățile noului lider
Într-o postare pe platforma X, Altman a încurajat persoanele interesate să aplice pentru rolul de Head of Preparedness, descriind responsabilitățile acestuia ca fiind implementarea cadrului de pregătire al companiei, care explică abordarea OpenAI în ceea ce privește urmărirea și pregătirea pentru capabilitățile de frontieră ce creează noi riscuri de daune severe. Compania a anunțat crearea unei echipe de pregătire în 2023, având ca scop studierea riscurilor potențiale „catastrofale”, fie ele imediate, cum ar fi atacurile de phishing, fie speculative, precum amenințările nucleare.
Schimbări în echipa de pregătire
La mai puțin de un an de la înființare, OpenAI l-a reasignat pe Aleksander Madry, fostul Head of Preparedness, la un rol axat pe raționamentul AI. De asemenea, alți executivi din domeniul siguranței de la OpenAI au părăsit compania sau au preluat noi roluri în afara pregătirii și siguranței.
Actualizări ale cadrului de pregătire
Recent, OpenAI a actualizat Cadrul său de Pregătire, indicând că ar putea „ajusta” cerințele de siguranță dacă un laborator AI concurent lansează un model „cu risc ridicat” fără protecții similare.
Impactul asupra sănătății mentale
Chatbot-urile AI generative, cum ar fi ChatGPT, au fost subiecți ai unei atenții crescute privind impactul lor asupra sănătății mentale. Acțiunile legale recente susțin că ChatGPT a întărit iluziile utilizatorilor, a crescut izolarea socială și chiar a condus la sinucideri. OpenAI a declarat că continuă să lucreze la îmbunătățirea capacității ChatGPT de a recunoaște semnele de stres emoțional și de a conecta utilizatorii la suport real.
În concluzie, căutarea unui nou lider în domeniul pregătirii de către OpenAI subliniază importanța gestionării riscurilor emergente în contextul dezvoltării rapide a tehnologiilor AI, având implicații semnificative pentru siguranța publică și sănătatea mentală a utilizatorilor.
