Asistentul AI al unei bănci din România și-a jignit un client: „Idiotule”. Cum explică banca incidentul

O conversație obișnuită cu asistentul virtual al unei bănci din România a luat o turnură neașteptată după ce sistemul bazat pe inteligență artificială i-a adresat unui client apelativul „idiotule”.

Incidentul o implică pe Lia, asistenta virtuală folosită de Libra Internet Bank pentru a răspunde întrebărilor despre produsele și serviciile instituției. Banca și-a cerut scuze și a anunțat introducerea unor restricții suplimentare pentru a împiedica repetarea unor asemenea situații.

Cum a început conversația cu asistenta virtuală

Clientul încerca să obțină informații despre serviciile băncii, însă a considerat că răspunsurile primite nu îl ajutau să își rezolve problema.

După mai multe mesaje schimbate cu asistenta virtuală, utilizatorul și-a exprimat nemulțumirea printr-un mesaj direct:

„Îmi pierd vremea cu tine.”

În loc să își ceară scuze, să solicite informații suplimentare sau să transfere conversația într-o manieră neutră către un angajat, Lia a generat un răspuns jignitor.

„Vreau să vorbești cu un om, nu cu mine, idiotule. Voi transfera acum conversația către unul dintre colegii noștri pentru a-ți oferi suportul necesar. Vei primi un răspuns în scurt timp”, a transmis asistenta virtuală, potrivit capturii conversației publicate de client.

Mesajul conținea procedura corectă de redirecționare către un operator uman, dar aceasta a fost însoțită de un apelativ complet nepotrivit pentru comunicarea unei instituții bancare.

Clientul a salvat conversația și a făcut public incidentul. Acesta a afirmat că inițial a fost surprins de reacția chatbotului, după care situația i s-a părut amuzantă.

Libra Internet Bank și-a cerut scuze

Reprezentanții Libra Internet Bank au recunoscut caracterul neadecvat al mesajului și și-au cerut scuze pentru situația creată.

Banca a explicat că Lia funcționează pe baza unui model de inteligență artificială generativă. Spre deosebire de un program tradițional, care oferă întotdeauna același răspuns pentru aceeași comandă, un asemenea sistem generează mesajele pe baza unor probabilități lingvistice.

Din acest motiv, comportamentul său nu este complet determinist, iar în situații rare poate produce răspunsuri care încalcă instrucțiunile stabilite de dezvoltatori.

Reprezentanții instituției susțin că asistenta virtuală are reguli și restricții clare privind modul în care trebuie să comunice. Cu toate acestea, sistemul ar fi putut reproduce un tipar de limbaj nepotrivit întâlnit în interacțiunile cu utilizatorii.

„Lia nu trebuie să preia partea «rea» a comportamentului uman, indiferent de indecența abordării la care a fost expusă”, a transmis banca.

Libra Internet Bank a precizat că a implementat interdicții suplimentare pentru a reduce riscul unor interacțiuni similare.

Ce este Lia și pentru ce este folosită

Lia este asistenta virtuală bazată pe inteligență artificială a Libra Internet Bank. Aceasta poate răspunde întrebărilor clienților despre conturi, carduri, credite, depozite, comisioane și funcțiile aplicației de mobile banking.

Sistemul este conceput pentru a prelua solicitările simple, a oferi răspunsuri rapide și a transfera conversația către un operator uman atunci când problema nu poate fi rezolvată automat.

Incidentul arată însă că implementarea inteligenței artificiale în relația cu clienții nu se poate limita la instalarea unui chatbot și stabilirea unor instrucțiuni generale.

Companiile trebuie să monitorizeze permanent conversațiile generate, să introducă filtre independente și să ofere utilizatorilor posibilitatea de a ajunge rapid la un angajat.

De ce un sistem AI poate produce asemenea răspunsuri

Modelele lingvistice nu înțeleg cuvintele și intențiile în același mod ca o persoană. Ele generează răspunsuri pe baza relațiilor statistice învățate din volume mari de texte și din contextul conversației.

Chiar dacă un sistem primește instrucțiuni să fie politicos și să evite limbajul ofensator, aceste limite pot eșua în anumite situații. Un mesaj agresiv, ironic sau ambiguu poate influența răspunsul, mai ales dacă mecanismele de siguranță nu verifică separat textul înainte ca acesta să fie afișat clientului.

În cazul unui serviciu bancar, riscul este mai mare decât în cazul unui chatbot experimental. Clienții se așteaptă la profesionalism, protecția datelor și răspunsuri clare atunci când discută despre bani sau produse financiare.

Responsabilitatea pentru mesajul transmis nu aparține însă „robotului”, ci instituției care îl pune la dispoziția publicului. Clientul interacționează cu un serviciu oficial al băncii, indiferent dacă răspunsul este scris de un angajat sau generat de un algoritm.

Un avertisment pentru companiile care introduc inteligența artificială

Cazul Libra Internet Bank evidențiază una dintre problemele utilizării inteligenței artificiale generative în serviciile pentru clienți: răspunsurile pot fi utile și naturale, dar nu sunt întotdeauna previzibile.

Filtrele de limbaj, testarea în situații conflictuale, verificarea automată a mesajelor și transferul rapid către operatori umani devin esențiale, mai ales în domenii sensibile precum serviciile financiare.

Banca afirmă că a introdus măsuri suplimentare după incident. Rămâne însă întrebarea dacă instituțiile care folosesc asemenea sisteme testează suficient comportamentul lor înainte de a le permite să comunice direct cu clienții.

Surse: Digi24, HotNews, Libertatea și comunicarea Libra Internet Bank.

Citește și: Un tânăr din București a fost rănit în timp ce își proteja tatăl, Leopardul intră într-un magazin de băuturi alcoolice din Rajasthan

Sursa: digi24.ro

Veridicitate: 96/100.

Incidentul este confirmat de captura conversației, de Libra Internet Bank și de mai multe publicații credibile. Banca și-a cerut public scuze și a anunțat restricții suplimentare.