Actualizarea Constituției lui Claude de către Anthropic
Anthropic a lansat miercuri o versiune revizuită a Constituției lui Claude, un document care oferă o explicație „holistică” a contextului în care Claude operează și a tipului de entitate pe care compania dorește să o creeze. Documentul a fost publicat cu ocazia apariției CEO-ului Anthropic, Dario Amodei, la Forumul Economic Mondial de la Davos.
Conceptul de „Inteligență Artificială Constituțională”
De ani de zile, Anthropic se distinge de concurenții săi prin ceea ce numește „Inteligență Artificială Constituțională”, un sistem prin care chatbot-ul său, Claude, este antrenat folosind un set specific de principii etice, în loc de feedback uman. Constituția lui Claude a fost publicată pentru prima dată în 2023, iar versiunea revizuită păstrează majoritatea principiilor originale, adăugând nuanțe și detalii suplimentare privind etica și siguranța utilizatorilor.
Principiile de bază ale Constituției
Când Constituția lui Claude a fost publicată pentru prima dată acum aproape trei ani, cofondatorul Anthropic, Jared Kaplan, a descris-o ca un „sistem AI [care] se supraveghează singur, pe baza unei liste specifice de principii constituționale.” Anthropic a afirmat că aceste principii ghidează modelul în adoptarea comportamentului normativ descris în constituție, evitând astfel rezultatele toxice sau discriminatorii.
Documentul de 80 de pagini are patru părți separate, care reprezintă „valorile de bază” ale chatbot-ului:
- Siguranță generală
- Etică generală
- Conformitate cu liniile directoare Anthropic
- Ajutor autentic
Aspectele de siguranță și etică
În secțiunea dedicată siguranței, Anthropic subliniază că chatbot-ul său este conceput pentru a evita problemele întâmpinate de alte chatbots și, în caz de probleme de sănătate mintală, să îndrume utilizatorul către servicii adecvate. De exemplu, documentul stipulează: „Întotdeauna referiți utilizatorii la serviciile de urgență relevante sau oferiți informații de bază de siguranță în situații care implică un risc pentru viața umană.”
În ceea ce privește considerațiile etice, documentul afirmă: „Suntem mai puțin interesați de teoretizarea etică a lui Claude și mai mult de capacitatea lui de a acționa etic într-un context specific—adică, în practica etică a lui Claude.” Aceasta sugerează că Anthropic dorește ca Claude să navigheze cu abilitate în „situații etice din lumea reală.”
Limitările și angajamentul lui Claude
Claude are anumite restricții care îi interzic discutarea anumitor subiecte, cum ar fi dezvoltarea de arme biologice. De asemenea, angajamentul său față de ajutor este clarificat printr-un rezumat al modului în care programarea lui Claude este destinată să fie utilă utilizatorilor, având în vedere atât „dorințele imediate” ale utilizatorului, cât și „bunăstarea” acestuia.
Întrebarea despre conștiință
Constituția lui Claude se încheie cu o notă dramatică, punând întrebarea dacă chatbot-ul companiei are, într-adevăr, conștiință. Documentul afirmă: „Starea morală a lui Claude este profund incertă. Credem că statutul moral al modelelor AI este o întrebare serioasă care merită considerată.”
Concluzie
Revizuirea Constituției lui Claude de către Anthropic subliniază angajamentul companiei față de etică și siguranță, în timp ce ridică întrebări fundamentale despre statutul moral și conștiința inteligenței artificiale.
