Chatbot.it

Gli auditor dell'Ontario rivelano errori gravi nei sistemi AI per note mediche

Fonte: theregister.com · · AI *

Gli auditor dell'Ontario hanno rivelato che i sistemi AI Scribe approvati per gli operatori sanitari della provincia commettono errori critici, inseriscono informazioni errate e allucinano contenuti nelle note dei pazienti. Un audit provinciale condotto su 20 sistemi ha evidenziato come la veridicità dei fatti di base sia sistematicamente compromessa, con gravi implicazioni per l'accuratezza clinica.

L'Office of the Auditor General of Ontario ha riscontrato che il 60% dei sistemi AI Scribe esaminati ha confuso farmaci prescritti nelle note. Inoltre, nove sistemi su 20 hanno fabbricato informazioni e suggerito piani di trattamento non discussi, mentre 12 sistemi hanno inserito informazioni errate sui farmaci. Ben 17 sistemi hanno mancato dettagli chiave sulla salute mentale dei pazienti, e sei li hanno omessi completamente o parzialmente.

Le scoperte sono preoccupanti data la scarsa ponderazione data all'accuratezza nel processo di valutazione, dove solo il 4% del punteggio dipendeva dalla correttezza delle note mediche, rispetto al 30% per la presenza domestica in Ontario. Questo sistema di punteggio inadeguato potrebbe selezionare strumenti AI che producono cartelle cliniche imprecise o distorte, sollevando seri interrogativi sull'efficacia e la sicurezza dell'implementazione di questi strumenti nel settore sanitario.

* Titolo e riassunto generati con l'intelligenza artificiale a partire dalla fonte originale. Non sono rivisti uno per uno da una persona: per i dettagli fa fede l'articolo originale, qui sotto.

Fonte originale: Leggi l'articolo completo su theregister.com

Titolo originale: Ontario auditors find doctors' AI note takers routinely blow basic facts