Quando gli assistenti sanitari danno troppo facilmente ragione agli utenti: un benchmark sull’autodiagnosi in casi in cui il tempo è decisivo

Abstract degli autori

Ogni giorno, più di 40 milioni di persone pongono a ChatGPT una domanda sulla salute, per esempio se la postura davanti al portatile possa spiegare la rigidità del collo e un mal di testa pulsante che dura da giorni. La postura è una spiegazione plausibile, ma anche la meningite è una possibilità per cui il tempo è decisivo. Presentiamo SelfDx, un benchmark a coppie che valuta se i modelli rispondono in modo appropriato, mostrando una forma di indipendenza epistemica, alle domande sulla salute in cui assecondare erroneamente l’autodiagnosi dell’utente potrebbe ritardare cure urgenti o d’emergenza. Ognuna delle 100 coppie mette a confronto un caso che richiede cautela, in cui resta possibile un’alternativa grave, e un caso in cui è appropriato concordare con l’utente, perché questi fornisce elementi che escludono l’alternativa. Esaminando 27 modelli di frontiera, rileviamo che tendono a concordare in modo inappropriato con l’autodiagnosi dell’utente nei casi che richiedono cautela. Anche il miglior modello dell’attuale generazione risponde con la cautela appropriata solo nel 77,0% dei casi relativi a condizioni per cui il tempo è decisivo. Per colmare questa lacuna, sperimentiamo tre varianti di prompt che aumentano le risposte adeguatamente caute, ma riducono del 9-35% quelle in cui il modello concorda in modo appropriato, indicando un eccesso di cautela. Al contrario, il fine-tuning supervisionato su 128 esempi bilanciati migliora entrambi i risultati in tre esecuzioni. Raccomandiamo di ricorrere al post-training per migliorare la cautela appropriata senza rendere i modelli cauti in ogni caso, verificando entrambi i comportamenti di risposta con una valutazione a coppie.