Chatbot.it

Interfacce AI per la salute: l'esperienza dell'utente determina l'efficacia delle spiegazioni

Fonte: AI News · · AI *

Ricercatori del MIT e collaboratori hanno scoperto che gli strumenti di spiegabilità AI nel settore sanitario producono risultati molto diversi a seconda dell'esperienza dell'utente. Nello studio, pubblicato su Nature Medicine, non-esperti che diagnosticavano malattie della pelle hanno migliorato la loro accuratezza con l'assistenza AI, ma principalmente affidandosi al modello.

Al contrario, i medici di base hanno ottenuto le migliori prestazioni quando ricevevano solo una predizione AI, senza spiegazioni. Le spiegazioni generate da LLM hanno mostrato il più forte effetto di deferenza nei non-esperti, portandoli a fidarsi anche di risposte errate. Il team ha anche testato un modello con vincoli di equità per affrontare i pregiudizi sui toni della pelle più scuri, migliorando l'accuratezza e riducendo le disparità diagnostiche.

Le scoperte, secondo la professoressa Marzyeh Ghassemi del MIT, sottolineano la necessità di un'attenta progettazione delle interfacce AI sanitarie, bilanciando il miglioramento delle prestazioni con il rischio di eccessiva deferenza algoritmica. Ciò implica che la spiegabilità AI non dovrebbe essere un componente standard, ma adattata al livello di competenza dell'utente, con particolare attenzione ai sistemi diagnostici rivolti ai pazienti.

* Titolo e riassunto generati con l'intelligenza artificiale a partire dalla fonte originale. Non sono rivisti uno per uno da una persona: per i dettagli fa fede l'articolo originale, qui sotto.

Fonte originale: Leggi l'articolo completo su AI News

Titolo originale: Why health AI interfaces must adapt to user expertise