Un român a fost insultat de Chatbot-ul băncii Libra: „Idiotule”

Un client al unei bănci din România a avut parte de un răspuns greu de imaginat din partea unui serviciu de asistență. După ce i-a reproșat chatbotului bazat pe inteligență artificială că își pierde vremea cu el, asistentul virtual i-a răspuns direct: „idiotule”. Conversația a ajuns în spațiul public, iar Libra Internet Bank și-a cerut scuze și a anunțat că a introdus noi restricții pentru sistemul AI.

Traian Băsescu explică cheia rezolvării crizei politice și cere ca ”liniile roșii” să fie retrase

Incidentul a avut loc într-o conversație purtată cu Lia, asistentul virtual al Libra Internet Bank, folosit pentru a le oferi clienților informații despre produsele și serviciile băncii.

Potrivit relatării clientului, discuția pornise de la condițiile de utilizare a unor servicii bancare. Chatbotul i-a cerut mai multe informații, inclusiv dacă efectuase cel puțin trei plăți cu cardul în luna precedentă și dacă anumite sume se aflau în depozite sau în contul curent.

După mai multe schimburi de mesaje, utilizatorul și-a exprimat nemulțumirea.

„Îmi pierd vremea cu tine”, i-a transmis acesta asistentului virtual.

Replica a venit imediat și a fost una cu totul neașteptată pentru un serviciu bancar.

„Vreau să vorbești cu un om, nu cu mine, idiotule”, i-a răspuns Lia, înainte de a-l informa că discuția urma să fie transferată către un angajat al băncii.

Clientul a povestit ulterior că a rămas inițial surprins de mesaj, după care a început să râdă. A publicat apoi conversația în mediul online, iar cazul s-a răspândit rapid.

Libra Bank și-a cerut scuze: „Lia nu trebuie să preia partea «rea» a comportamentului uman”

După apariția conversației în spațiul public, Libra Internet Bank a reacționat și a explicat că Lia funcționează cu ajutorul inteligenței artificiale și că astfel de sisteme pot ajunge să reproducă limbajul întâlnit în interacțiunile umane.

Banca a precizat că agenții AI funcționează probabilistic și că, deși sunt introduse reguli pentru a preveni răspunsurile nepotrivite, acestea nu pot exclude absolut toate situațiile de acest fel. Potrivit instituției, Lia funcționează „prin OpenAI”.

Reprezentanții băncii au admis însă că răspunsul transmis clientului nu este acceptabil și și-au cerut scuze pentru incident.

„Lia nu trebuie să preia partea «rea» a comportamentului uman”, a transmis banca, care a anunțat că a introdus interdicții suplimentare pentru chatbot, astfel încât asemenea replici să nu se mai repete.