The Pulse
Le allucinazioni di ChatGPT mettono i clienti contro chi lavora nei servizi
Secondo The Verge, i clienti portano errori generati dall’IA nelle conversazioni con il personale di ristoranti, parchi e servizi per l’infanzia. I lavoratori raccontano che alcuni clienti si fidano più di ChatGPT o Claude che di chi conosc
AI.info Team · Scritto con l’IA ·
Una cameriera di New York racconta che clienti allergici a molluschi e crostacei hanno contestato le sue avvertenze sui piatti dopo aver consultato ChatGPT. Il brodo che accompagna un piatto di pesce conteneva molluschi o crostacei, aveva spiegato loro, ma alcuni clienti si fidavano della risposta contraria del chatbot. «Siete allergici a molluschi e crostacei, ChatGPT dice che questo piatto non ne contiene e noi vi diciamo che invece ci sono», ha detto alla testata Madison, di cui The Verge non ha pubblicato il cognome.
Lo scambio esemplifica una dinamica descritta nel servizio di The Verge firmato da Gaby Del Valle e pubblicato il 2 ottobre: chi lavora a contatto con il pubblico racconta che sempre più persone considerano autorevoli le risposte generate dall’IA, anche quando contraddicono ciò che il personale può vedere o verificare. Le testimonianze riguardano ristoranti, parchi, servizi per l’infanzia e negozi. Sono interviste a singoli lavoratori, non una misura di quanto sia diffuso il problema.
Quando ChatGPT inventa un vino
Madison, che lavorava in un ristorante italiano segnalato dalla guida Michelin, ha raccontato a The Verge che a volte i clienti ignorano i sommelier e preferiscono affidarsi a ChatGPT. Alcuni chiedono poi bottiglie che il ristorante non ha, o vini che non esistono. Per non metterli in imbarazzo, lei e i colleghi possono suggerire che la raccomandazione si riferisca a una carta dei vini diversa dalla loro, anziché dire che il chatbot ha inventato un marchio.
Gli attriti non riguardano solo il vino. Del Valle scrive che dipendenti dei cinema, baristi e addetti degli Apple Store hanno raccontato di clienti che chiedono prodotti o funzionalità inesistenti. Queste testimonianze mettono in luce un problema concreto per chi lavora nei servizi: correggere una risposta generata dall’IA può trasformarsi in una discussione su quali informazioni meritino fiducia.
Itinerari sbagliati, difesi anche davanti alla mappa
Un guardiaparco fluviale indicato con lo pseudonimo Jason ha raccontato a The Verge che alcuni visitatori sono arrivati con itinerari generati dall’IA che collocavano i campeggi nei posti sbagliati o disponevano le tappe in un ordine impossibile. Alcuni percorsi avrebbero richiesto di remare controcorrente su un fiume dove non era possibile farlo. Jason ha detto che i gruppi restavano scettici anche dopo che i guardiaparco avevano spiegato il problema indicando la mappa.
A New York, un’insegnante di doposcuola indicata come Casey ha descritto una famiglia che si affidava a un programma per l’ora di andare a letto generato da ChatGPT. In base al comportamento del bambino al doposcuola, riteneva che avesse bisogno di dormire altre due o tre ore ogni notte, ma ha detto che i genitori insistevano sul fatto che il programma andasse bene perché ChatGPT lo aveva approvato. Casey ha detto a The Verge che le conversazioni diventano difficili quando i genitori hanno deciso che l’IA è la fonte più autorevole.
Gli agenti di IA possono complicare le prenotazioni
Lauren Wilford, che lavora nella ristorazione da 15 anni, ha detto che inizialmente i clienti usavano ChatGPT o Claude per interpretare i menu e scegliere gli abbinamenti con i vini. Nell’ultimo anno, ha aggiunto, il suo ristorante ha ricevuto anche telefonate ed email da agenti che cercavano di prenotare per conto dei clienti. La tecnologia può rendere meno chiaro il normale coordinamento quando il personale non riesce a capire se una richiesta rispecchi ciò che il cliente vuole davvero.
Wilford ha descritto il caso di un cliente che, poco prima di un evento nel ristorante di Providence, Rhode Island, che lei dirige, aveva fatto richieste relative a un podio, ad attrezzature audiovisive e a modifiche del catering. Il giorno dopo, i clienti sono arrivati senza menzionare quelle richieste. Wilford sospetta che possa averle fatte un agente di IA, ma ha detto di non poter dimostrare che sia andata così.
«Capisco le ragioni per cui le persone usano gli agenti di IA», ha detto Wilford a The Verge. Ha distinto le attività amministrative dalle situazioni in cui due persone devono definire insieme i dettagli, avvertendo che i clienti potrebbero non accorgersi di ciò che si perde quando cercano di saltare quello scambio. Nella sua testimonianza, il costo immediato di un errore dell’IA ricade sui lavoratori che devono correggerlo e sui clienti che potrebbero agire sulla base di consigli sbagliati.