The Pulse
Il MIT testa un modello per valutare il rischio di suicidio su 16.000 conversazioni di crisi
Ricercatori del MIT hanno testato un modello testuale leggero su circa 16.000 conversazioni di consulenza in situazioni di crisi, usando un lessico collegato a 49 fattori di rischio di suicidio. Lo strumento può individuare schemi ricorrent
AI.info Team ·
Uno strumento testuale alla prova del giudizio umano
Secondo i ricercatori del MIT, un modello testuale leggero può aiutare i consulenti a classificare le conversazioni di crisi in base al livello di rischio di suicidio. Ma l’approccio basato sulle parole può non cogliere il contesto e, secondo i suoi sviluppatori, prima dell’uso clinico richiede ulteriori verifiche e la supervisione umana. Lo studio esamina se un modello riesca a individuare schemi ricorrenti in ciò che le persone dicono, non se possa stabilire chi tenterà in seguito il suicidio.
Il team ha analizzato circa 16.000 conversazioni private degli elementi identificativi, svolte con i consulenti volontari di Crisis Text Line. L’organizzazione senza scopo di lucro ha fornito una formazione specialistica e un accesso controllato al dataset soggetto a restrizioni. Le valutazioni dei consulenti hanno suddiviso le conversazioni in tre categorie: assenza di tendenze suicide, ideazione suicidaria senza rischio imminente e rischio imminente, definito come la presenza di un piano o dell’intenzione di morire entro le 48 ore successive.
49 fattori diventano un lessico consultabile
Per costruire lo strumento, i ricercatori hanno usato l’IA per generare un elenco preliminare di parole ed espressioni associate a 49 fattori di rischio di suicidio. Hanno poi esaminato e selezionato manualmente l’elenco, che contiene circa 60 termini o espressioni per ciascun fattore; clinici esperti ne hanno confermato la pertinenza. Un modello di apprendimento automatico cerca quindi quei termini nel testo e usa i fattori a essi associati per stimare il rischio.
Le previsioni del modello hanno inoltre permesso ai ricercatori di esaminare quali fattori comparissero più spesso nel gruppo a rischio più elevato. Secondo quanto riferito dal MIT, i riferimenti a mezzi letali e all’uso di sostanze erano più associati a quel gruppo rispetto all’umore depresso o alla stanchezza. Anche l’ideazione suicidaria attiva e l’autolesionismo erano forti fattori predittivi, mentre ansia, disturbo da stress post-traumatico e dolore emotivo si collocavano in una fascia intermedia.
Punteggi interpretabili, ma un contesto limitato
Il modello assegna un peso ai fattori di rischio, permettendo di vedere quali abbiano contribuito a un punteggio. È diverso da un sistema che restituisce una stima del rischio senza mostrare come ci sia arrivato. Il modello linguistico di grandi dimensioni ha contribuito a creare il lessico; il modello che prevede il rischio è invece un sistema più semplice che, secondo il MIT, può funzionare su un personal computer.
Un lessico può anche interpretare un’espressione diversamente da una persona. Non comprende il contesto e può non rilevare formulazioni che esprimono un significato simile ma non figurano nell’elenco. I ricercatori affermano di usare talvolta il lessico insieme a modelli linguistici più grandi, sia per assicurarsi che determinati termini vengano segnalati sia per tutelare la riservatezza dei dati.
Ghosh: la revisione umana resterà necessaria
«È un ambito così complesso che mantenere una persona coinvolta nel processo sarà, credo, fondamentale ancora per molto, molto tempo»,
dice a MIT News Satra Ghosh, ricercatore senior e direttore della Open Data in Neuroscience Initiative presso il McGovern Institute del MIT. I ricercatori affermano che i modelli richiedono una validazione approfondita prima dell’uso clinico e potrebbero dover essere aggiornati con il cambiare della lingua e delle popolazioni a cui sono destinati.
Il team mette a disposizione il lessico e il software per costruire strumenti simili, mentre Daniel Low afferma che i ricercatori stanno usando il lessico per studiare testi provenienti, tra le altre fonti, dai social media e dalle cartelle cliniche elettroniche. Per ora, il risultato è uno strumento di ricerca testato confrontandolo con le valutazioni dei consulenti che gestiscono le crisi, non un sostituto del loro giudizio.