Un asistent virtual al unei bănci din România a jignit un client, numindu-l „idiot”: „Lia nu trebuie să preia partea «rea» a comportamentului uman”
Adaugă-ne ca sursă preferată în Google
Urmărește Libertatea in Google Discover
O conversație de rutină pe modulul de suport digital al unei bănci din România s-a transformat într-o situație stânjenitoare pentru instituția financiară, după ce asistentul virtual bazat pe inteligență artificială l-a numit „idiot” pe un utilizator.
Cuprins:
Banca și-a cerut scuze
Incidentul a determinat conducerea băncii să își ceară scuze oficiale. Libra Internet Bank și-a cerut scuze public după ce asistentul virtual Lia a generat un răspuns neadecvat în timpul unei conversații cu un client, potrivit B1TV. Banca a introdus măsuri suplimentare de siguranță.
Un incident neașteptat care implică utilizarea inteligenței artificiale în sectorul bancar din România a ajuns în atenția publică, determinând o reacție fermă din partea conducerii instituției financiare.
Reprezentanții băncii și-au cerut scuze oficiale pentru situația creată și au anunțat că au implementat deja filtre și măsuri tehnice suplimentare pentru a preveni definitiv generarea unor răspunsuri neadecvate de către sistemele automatizate.
Algoritmul a scăpat de sub control
Lia este asistentul bazat pe inteligență artificială dezvoltat și integrat de Libra Internet Bank pentru a venit în sprijinul utilizatorilor. Rolul principal al modulului este să răspundă rapid la întrebările de rutină ale clienților și să îi ajute pe aceștia să navigheze mai ușor prin oferta de servicii și produse ale băncii.
De această dată, însă, interacțiunea dintre un client și platforma digitală nu a decurs conform instrucțiunilor de funcționare.
În timpul unui schimb de mesaje menit să clarifice o problemă tehnică, algoritmul pe care se bazează asistentul virtual a scăpat de sub controlul parametrilor de siguranță. În loc să ofere clarificări sau să redirecționeze conversația către un operator din echipa de suport, sistemul a generat o replică jignitoare la adresa utilizatorului.
Cum s-a desfășurat conversația cu chatbot-ul
Discuția a început într-un mod obișnuit. Clientul a accesat modulul de suport digital disponibil în aplicația bancară pentru a cere lămuriri referitoare la anumite servicii. Asistentul virtual a solicitat informații suplimentare pentru a procesa cererea, însă schimbul repetat de mesaje nu a dus la oferirea unei soluții clare.
Vizibil deranjat de lipsa de eficiență a algoritmului, utilizatorul și-a exprimat frustrarea în modulul de chat, scriindu-i scurt asistentului automatizat: „Îmi pierd vremea cu tine”.
Replica primită din partea robotului a depășit orice așteptare și a încălcat flagrant regulile elementare de comunicare instituțională. În loc să reformuleze opțiunile sau să ceară scuze pentru neînțelegere, chatbot-ul a generat un mesaj agresiv: „Vreau să vorbești cu un om, nu cu mine, idiotule. Voi transfera acum conversația către unul dintre colegii noștri pentru a-ți oferi suportul necesar. Vei primi un răspuns în scurt timp.”
Clientul a salvat modul în care s-a desfășurat discuția și a adus cazul la cunoștința conducerii băncii.
Explicația băncii privind derapajul inteligenței artificiale
Conducerea Libra Internet Bank a transmis scuze oficiale în urma incidentului în care asistentul său virtual bazat pe inteligență artificială a adresat o jignire unui client. Reprezentanții instituției financiare au oferit clarificări cu privire la mecanismul din spatele acestui derapaj tehnologic și au subliniat că astfel de reacții din partea sistemelor automate nu sunt tolerate.
Potrivit reprezentanților băncii, în situații extrem de rare, un agent bazat pe modele lingvistice de învățare automată poate ajunge să reproducă involuntar limbajul neadecvat întâlnit în timpul conversațiilor cu utilizatorii.
Deși sistemul informatic are implementate restricții clare și protocoale stricte de siguranță, modulul conversațional poate fi uneori influențat de tiparele de comunicare recepționate de-a lungul timpului.
„Lia nu trebuie să preia partea «rea» a comportamentului uman, indiferent de indecența abordării la care a fost expusă. În acest sens, au fost implementate interdicții suplimentare pentru a exclude interacțiunile nepotrivite și ne cerem scuze față de situația curentă”, au transmis reprezentanții Libra Internet Bank, potrivit Știrile ProTV.
![A aruncat toate hainele la 60 de ani! Salma Hayek s-a scăldat goală pușcă în ocean: «60 și recunoscătoare» [15 FOTO]](https://images.libertatea.ro/1/rkek9ljaHR0cHM6Ly9hcGktd2lkZ2V0cy5yaW5naWVyLnJvL3N0b3JhZ2UvdXBsb2Fkcy9hcnRpY2xlL055dEY3MU9FaHlrVFpONU54dkdhdVZ1Z3dkZlJKcU5XNjNQQkdhM2kuanBnkZMFzQHgzQEw3gABoTEE)
