Rimani informato con aggiornamenti gratuiti
Il chatbot alimentato dall'intelligenza artificiale di Virgin Money ha rimproverato un cliente che ha usato la parola “Virgin”, sottolineando le insidie di implementare strumenti di intelligenza artificiale esterna.
In un post della scorsa settimana sul sito dei social media LinkedIn, David Birch, un commentatore fintech e un cliente Virgin Money, ha condiviso una foto della sua conversazione online con la banca in cui ha chiesto: “Ho due isas con Virgin Money, come mi unisce loro?”
Lo strumento di servizio clienti della banca ha risposto: “Per favore, non utilizzare parole del genere. Non sarò in grado di continuare la nostra chat se usi questa lingua “, suggerendo che considerasse la parola” vergine “inappropriata.
Virgin Money si è scusato per l'errore in una dichiarazione su LinkedIn e ha aggiunto che c'era stato “più al lavoro della semplice eccezione di una parola”.
“State tranquilli, ci stiamo lavorando”, ha detto la banca. “Questo chatbot specifico è uno che era stato programmato per miglioramenti che arriveranno presto ai clienti.”
La banca ha rifiutato di commentare oltre il suo post su LinkedIn.
L'incidente arriva mentre le banche di strada in tutto il Regno Unito stanno correndo per implementare strumenti di intelligenza artificiale rivolti ai clienti nel tentativo di personalizzare i propri servizi e aumentare la lealtà.
Segue anche l'acquisizione di Nationwide £ 2,8 miliardi di Virgin Money l'anno scorso. La Building Society ha promesso di migliorare i punteggi di soddisfazione dei clienti della banca. Virgin Money si è classificato al 15 ° posto del 16 ° nella qualità complessiva del servizio nel 2023, secondo un sondaggio a livello di settore condotto da Ipsos.
Le banche hanno utilizzato l'intelligenza artificiale e l'apprendimento automatico per guidare l'efficienza nelle aree di back-office come il monitoraggio delle transazioni per anni. Ma dai primi chatbot di AI lanciati due anni fa, hanno anche sperimentato l'IA generativa.
Una preoccupazione per i finanziatori è il rischio di cosiddette allucinazioni, che si verificano quando i chatbot emettono informazioni errate. Un incidente di Air Canada è diventato un racconto di cautela per l'industria. La compagnia aerea è stata costretta a compensare un cliente dopo che il suo chatbot AI gli ha detto erroneamente che aveva diritto a uno sconto.
Una persona che ha familiarità con la situazione di Virgin Money ha affermato che l'incidente si è verificato su uno dei suoi più antichi chatbot, alimentata dall'elaborazione di base del linguaggio naturale e che non era in esecuzione sui suoi modelli aggiornati più recentemente.