Disbandarea echipei de aliniament la OpenAI
OpenAI a desființat o echipă dedicată asigurării că sistemele sale de inteligență artificială sunt „sigure, de încredere și aliniate constant cu valorile umane.” Conducătorul echipei a fost numit în noua funcție de „chief futurist” al companiei.
Reorganizarea echipei
OpenAI a confirmat că membrii echipei au fost redistribuiți în alte roluri. Echipa a fost formată în septembrie 2024, având ca scop principal lucrul pe aliniament, un domeniu care se concentrează pe asigurarea că inteligența artificială acționează în conformitate cu interesele umane.
Obiectivele echipei de aliniament
O postare pe blogul de Cercetare în Aliniament al OpenAI subliniază dorința de a avea sisteme care să urmeze constant intențiile umane în scenarii complexe, să evite comportamente catastrofale și să rămână controlabile și audibile.
Un anunț de angajare pentru echipa de aliniament descria misiunea acesteia de a dezvolta metodologii care să permită inteligenței artificiale să urmeze robust intențiile umane în diverse scenarii, inclusiv cele cu risc crescut.
Noua funcție a lui Josh Achiam
Josh Achiam, fostul lider al echipei de aliniament, a explicat în noua sa funcție de Chief Futurist că scopul său este de a sprijini misiunea OpenAI de a asigura că inteligența artificială generală beneficiază întreaga umanitate, studiind cum se va schimba lumea în răspuns la AI și AGI.
Achiam va colabora cu Jason Pruet, un fizician din staff-ul tehnic al OpenAI.
Redistribuirea echipei
Un purtător de cuvânt al OpenAI a menționat că restul echipei de aliniament, formată din șase sau șapte persoane, a fost redistribuită în diferite părți ale companiei, implicându-se în lucrări similare. Nu este clar dacă Achiam va avea o echipă nouă în rolul său de futurist.
Contextul reorganizării
Purtătorul de cuvânt a atribuit desființarea echipei reorganizărilor obișnuite care au loc într-o companie în continuă mișcare. Anterior, OpenAI a avut o echipă de „superaliniament” formată în 2023, concentrată pe studiul amenințărilor existențiale pe termen lung generate de inteligența artificială, dar aceasta a fost desființată în 2024.
Concluzie
Desființarea echipei de aliniament la OpenAI ridică întrebări referitoare la angajamentul companiei față de dezvoltarea unei inteligențe artificiale care să respecte valorile umane, într-un context de reorganizare continuă în sectorul tehnologic.
