Kinney Drugs ritira l'assistente telefonico AI dopo centinaia di reclami dei clienti
Fonte: wcax.com · · AI *
Kinney Drugs sta ridimensionando l'uso del suo assistente telefonico basato su intelligenza artificiale, denominato Burt, in seguito a centinaia di reclami da parte dei clienti. Il sistema AI ha generato chiamate incoerenti, comunicato dosaggi errati di farmaci e omesso notifiche importanti per le prescrizioni, creando disagi significativi per i pazienti dell'azienda.
Kinney Drugs aveva introdotto Burt, un bot dedicato a comunicare con i pazienti riguardo a prescrizioni e ricariche, a maggio 2026. John Marraffa, presidente di Kinney Drugs, ha ammesso il fallimento nell'esperienza utente, dichiarando che l'azienda tornerà al suo precedente sistema telefonico a toni per le chiamate in entrata. Nonostante le preoccupazioni sulla privacy dei dati sollevate dai clienti, Marraffa ha assicurato che Burt è pienamente HIPAA compliant, non è open-source e non manipola né genera dati. L'AI verrà mantenuta solo per comunicazioni in uscita, come i promemoria di ricarica via SMS, con attivazione facoltativa da parte del paziente.
Questo incidente evidenzia le difficoltà e i rischi nell'implementare sistemi di intelligenza artificiale in settori critici come quello sanitario. La decisione di Kinney Drugs sottolinea l'importanza di bilanciare l'innovazione tecnologica con la necessità di garantire affidabilità, precisione e fiducia dei consumatori, specialmente quando sono in gioco informazioni sanitarie sensibili. Il caso serve da monito per altre aziende che considerano l'adozione di AI nel servizio clienti.
* Titolo e riassunto generati con l'intelligenza artificiale a partire dalla fonte originale. Non sono rivisti uno per uno da una persona: per i dettagli fa fede l'articolo originale, qui sotto.
Fonte originale: Leggi l'articolo completo su wcax.com
Titolo originale: Kinney Drugs pulls back AI phone assistant after hundreds of customer complaints