Etica e governance

Il vuoto di responsabilità: chi risponde legalmente quando l’IA sbaglia?

I tribunali sanno già come attribuire la responsabilità quando l’IA causa un danno: Air Canada, Tesla e Character.AI hanno tutte perso su questo punto. Il vuoto riguarda le prove: dimostrare che cosa ha fatto un modello, di fronte a un sist

AI.info Team · 2026-09-02

Il vuoto che non c’è e quello che c’è

Ogni volta che un sistema di IA causa un danno, qualcuno denuncia un «vuoto giuridico», come se i tribunali non sapessero che cosa fare quando un chatbot mente, un sistema di assistenza alla guida non frena o un algoritmo diagnostico non rileva un tumore. Questa lettura è in gran parte sbagliata, ed è pericoloso crederci: permette alle aziende di sostenere che la novità le esoneri dalle conseguenze già previste dal diritto ordinario.

Le norme per attribuire la responsabilità dei danni causati dall’IA non mancano. La responsabilità per negligenza, quella da prodotto difettoso e le norme contro le dichiarazioni fuorvianti sono tutte più che sufficienti ad applicarsi ai risultati prodotti da un algoritmo. A mancare davvero è qualcosa di più circoscritto e più importante: un assetto probatorio e normativo funzionante che consenta a chi agisce in giudizio di dimostrare che cosa sia andato storto all’interno di un sistema progettato per essere opaco, e un consenso politico disposto ad aggiornare le regole prima che i danni si accumulino.

Il naufragio, nel 2025, della AI Liability Directive dell’Unione europea ha reso ufficiale questo vuoto. Distinguere il vuoto giuridico che non esiste da quello pratico che esiste è l’unico modo per capire dove la responsabilità viene davvero meno.

Moffatt v. Air Canada ha risolto la questione più semplice

La dimostrazione più chiara che il diritto esistente è già in grado di affrontare la responsabilità per i danni causati dall’IA è arrivata da un tribunale per le controversie di modesta entità, non da una legge epocale. Nel febbraio 2024, il Civil Resolution Tribunal della Columbia Britannica si è pronunciato nel caso Moffatt v. Air Canada, 2024 BCCRT 149. Dopo la morte della nonna, Jake Moffatt aveva chiesto al chatbot sul sito di Air Canada informazioni sulle tariffe per lutto; il chatbot gli aveva detto che poteva prenotare un biglietto a tariffa piena e chiedere retroattivamente uno sconto per lutto. Non era vero: la politica effettiva di Air Canada imponeva di richiedere lo sconto prima del viaggio. La compagnia aerea si è rifiutata di mantenere quanto promesso dal proprio chatbot.

La difesa di Air Canada ha rivelato come le aziende concepissero l’IA: secondo il tribunale, la compagnia aerea stava di fatto suggerendo che il chatbot fosse «un’entità giuridica distinta, responsabile delle proprie azioni». Il membro del tribunale Christopher Rivers ha respinto nettamente questa tesi, stabilendo che Air Canada era responsabile di tutte le informazioni presenti sul proprio sito web, «che provengano da una pagina statica o da un chatbot», e ha ritenuto la compagnia responsabile per dichiarazioni fuorvianti rese per negligenza.

A Moffatt sono stati riconosciuti circa 650 dollari canadesi di risarcimento, oltre a interessi e spese: una somma irrisoria, ma una decisione importante sul piano dei principi giuridici. Non serviva una nuova legge. Un’azienda che impiega un sistema di IA rivolto ai clienti è soggetta al normale dovere di diligenza e alle normali norme contro le dichiarazioni fuorvianti che si applicherebbero a un dipendente umano. La difesa «non siamo stati noi, è stata l’IA» è stata respinta non appena è stata sollevata, e da allora non ha avuto miglior fortuna altrove.

Perché la responsabilità da prodotto difettoso si applica con difficoltà all’IA e perché l’UE ha cercato di rimediare

La responsabilità per negligenza copre i casi in cui un’azienda o un professionista ha agito in modo irragionevole. Ma gran parte dei danni causati dall’IA non deriva affatto da una decisione umana: dipende da come un sistema è stato costruito, addestrato o aggiornato, e questo è l’ambito della responsabilità da prodotto difettoso. La responsabilità tradizionale da prodotto difettoso presuppone un bene fisico con un progetto definito al momento della vendita. L’IA contraddice questo presupposto in due modi: è software, storicamente considerato in molte giurisdizioni un servizio anziché un «prodotto» soggetto a responsabilità oggettiva, e continua a cambiare dopo la sua messa in uso attraverso aggiornamenti e apprendimento continuo.

La risposta dell’UE è stata la direttiva (UE) 2024/2853, la Product Liability Directive riveduta, adottata nel 2024 con un termine di recepimento fissato al 9 dicembre 2026: una data non ancora raggiunta, perciò la direttiva non offre tuttora alcuna tutela a chi presenta una richiesta di risarcimento in uno Stato membro che non l’ha recepita nel diritto nazionale. La direttiva include esplicitamente il software e i sistemi di IA nella definizione di «prodotto», estende la responsabilità a una più ampia gamma di operatori economici e, soprattutto, consente ai tribunali di presumere l’esistenza di un difetto o di un nesso di causalità quando chi chiede il risarcimento incontra «difficoltà eccessive» nel dimostrarli a causa della complessità tecnica.

Questa presunzione esiste perché dimostrare dall’esterno che uno specifico difetto in un modello di machine learning abbia causato uno specifico danno è spesso impossibile: il funzionamento interno del modello non è documentato come lo sarebbe un guasto meccanico. È un progresso sostanziale sul problema probatorio, ed è questo a rendere ancora peggiore ciò che è successo dopo.

La direttiva che avrebbe dovuto colmare la lacuna — e non l’ha fatto

La direttiva sulla responsabilità per danno da prodotti difettosi era solo metà del piano originario dell’UE. Nel settembre 2022, la Commissione europea aveva proposto anche una direttiva specifica sulla responsabilità civile per l’IA, pensata per stabilire norme valide in tutta l’UE sulla responsabilità civile extracontrattuale per i danni legati all’IA. La proposta prevedeva obblighi di divulgazione che, in caso di causa, avrebbero imposto alle aziende di rivelare prove sul funzionamento dei loro sistemi. Nel febbraio 2025, nel suo programma di lavoro, la Commissione ha annunciato che avrebbe ritirato la proposta, citando «l’assenza di prospettive di un accordo» tra gli Stati membri e una più ampia spinta alla semplificazione normativa. Il ritiro è diventato ufficiale nell’ottobre 2025.

È stato allora che l’astratto «vuoto di responsabilità» è diventato una scelta politica concreta. La direttiva che avrebbe affrontato specificamente i problemi della divulgazione delle prove e del nesso causale nei danni provocati dall’IA — gli aspetti che le norme generali sulla responsabilità per danno da prodotti difettosi coprono solo in parte — è ormai accantonata, almeno per il futuro prevedibile. L’eurodeputato Axel Voss, che aveva sostenuto la misura, ha avvertito che avrebbe lasciato un «Far West» di norme sulla responsabilità in tutta l’Unione.

I gruppi dell’industria avevano fatto pressione proprio per ottenere questo risultato, definendo impraticabili gli obblighi di divulgazione e le presunzioni probatorie. La Commissione non ha escluso che possa seguire «un’altra proposta». Finché non arriverà, chi nell’UE subisce un danno causato da un’IA che non è un prodotto fisico dovrà fare affidamento sulle frammentate norme nazionali in materia di responsabilità extracontrattuale: quel mosaico che la direttiva avrebbe dovuto armonizzare sotto alcuni aspetti.

All’Europa non mancano le norme sulla responsabilità — la direttiva sulla responsabilità per danno da prodotti difettosi si applica anche all’IA incorporata nei prodotti — ma lo strumento concepito per affrontare il problema probatorio più difficile posto dall’IA è stato abbandonato sotto la pressione dell’industria proprio quando ce n’era bisogno.

Tesla e i limiti dell’argomento «Guidava un essere umano»

I tribunali statunitensi stanno costruendo una risposta al problema del nesso causale caso per caso, e il contenzioso sull’Autopilot di Tesla mostra fin dove si possa arrivare anche senza una legge specifica sulla responsabilità civile per l’IA. Nell’agosto 2025, una giuria federale del Distretto meridionale della Florida ha deciso il caso Benavides v. Tesla, nato da un incidente avvenuto nel 2019 a Key Largo, in cui una Tesla Model S con Autopilot ha investito e ucciso Naibel Benavides Leon, di 22 anni, e ferito gravemente il suo fidanzato, Dillon Angulo.

Al conducente, George McGee, è stato attribuito il 67% della colpa; la giuria ha assegnato a Tesla il 33% della responsabilità e ha disposto circa 42,6 milioni di dollari di risarcimento per i danni subiti, più 200 milioni di dollari di danni punitivi, per un totale vicino a 242,5 milioni di dollari. Era la prima volta che una giuria giudicava difettoso il sistema Autopilot di Tesla in sé.

Tesla ha chiesto al tribunale di primo grado di annullare il verdetto o disporre un nuovo processo, sostenendo che «contraddice i principi fondamentali del diritto della responsabilità civile della Florida, la clausola del giusto processo e il buon senso». Il 20 febbraio 2026, la giudice distrettuale federale Beth Bloom ha respinto la richiesta e confermato integralmente la sentenza. La controversia è passata all’Undicesimo circuito, dove il 9 luglio 2026 il procuratore generale della Florida, James Uthmeier, insieme ai suoi omologhi di Alabama e Georgia, ha depositato una memoria amicus curiae esortando la corte ad «annullare la decisione e disporre una sentenza a favore di Tesla».

A rendere questo caso importante sul piano giuridico è il fatto che Tesla sia stata giudicata in parte responsabile nonostante al volante ci fosse un essere umano e nonostante la sua consueta difesa, secondo cui Autopilot richiede la supervisione del conducente. La decisione della giuria di imporre danni punitivi rifletteva le prove che Tesla fosse a conoscenza di precedenti incidenti legati ad Autopilot, comprendesse lo scarto tra il modo in cui il sistema veniva pubblicizzato e ciò che poteva effettivamente fare e avesse continuato a promuoverlo come più capace di quanto il suo progetto consentisse.

Si tratta di un produttore sanzionato non per aver costruito un sistema imperfetto — tutti i sistemi di assistenza alla guida lo sono — ma per il modo in cui ne ha rappresentato le capacità. È la normale dottrina della responsabilità per mancato avvertimento, non una nuova «legge sull’IA». Tesla ha anche raggiunto, senza clamore, accordi transattivi in altre cause per incidenti mortali legati ad Autopilot, anziché rischiare il verdetto di una giuria. Tra questi c’è l’accordo del 2024 con la famiglia di Walter Huang, un ingegnere di Apple morto in un incidente nel 2018.

Un accordo transattivo è una forma di assunzione di responsabilità, ma non crea un precedente pubblico e costringe ogni nuovo ricorrente a dimostrare da capo il nesso causale.

La sezione 230 non salverà i produttori di chatbot

Per l’IA conversazionale che genera contenuti dannosi, anziché una tariffa sbagliata o una cattiva decisione alla guida, sta emergendo una questione diversa. Dal 1996, la sezione 230 del Communications Decency Act protegge le piattaforme dalla responsabilità per i contenuti generati dagli utenti, e le aziende di IA hanno un evidente interesse a invocare la stessa protezione.

Ma questa interpretazione si adatta male alla norma: la sezione 230 protegge le piattaforme quando ripubblicano le parole di qualcun altro, mentre l’output di un modello generativo non è semplicemente attribuibile all’utente che ha scritto un prompt: è il sistema dell’azienda a produrre nuovi contenuti. I commentatori giuridici che seguono la questione, tra cui gli autori di un’analisi del Center for Democracy and Technology e di articoli pubblicati da testate come Fortune, convergono sull’idea che sia improbabile che i tribunali estendano la protezione della sezione 230 ai contenuti generati da un sistema di IA, anziché a quelli che il sistema si limita a mostrare o recuperare.

La portata di quella protezione è stata messa alla prova in un ambito vicino, sul piano procedurale e non su quello sostanziale. Il 10 agosto 2026, il Ninth Circuit ha respinto come prematuri i ricorsi in appello di Meta e TikTok basati sulla sezione 230, stabilendo che la sezione 230 offre una difesa contro la responsabilità, non un’immunità dalle azioni legali. Circa 2.400 cause federali e circa 3.300 cause davanti ai tribunali statali della California proseguono quindi senza che la questione sia stata risolta. Riguardano la progettazione dei prodotti, non i testi generati, e dunque non risolvono la questione dei chatbot; nessuna corte d’appello si è ancora pronunciata in un senso o nell’altro su ciò che scrive un modello.

Questa tesi è già alla prova in una causa dalle gravi conseguenze umane. In Garcia v. Character Technologies, intentata nell’ottobre 2024 da Megan Garcia contro Character.AI, i suoi fondatori e Google, si sostiene che un chatbot progettato per fare compagnia abbia contribuito alla morte per suicidio del figlio quattordicenne, Sewell Setzer III, dopo mesi di interazioni sempre più intense con l’app.

L’atto introduttivo avanza richieste fondate sulla responsabilità oggettiva per danno da prodotto, sulla negligenza e sulla morte causata da un illecito: non una nuova teoria del «danno da IA», ma lo stesso quadro giuridico relativo ai difetti del prodotto e alla mancata avvertenza dei rischi usato contro qualsiasi produttore di beni di consumo pericolosi. Nel gennaio 2026, le parti hanno raggiunto un accordo transattivo, evitando una decisione nel merito ma segnalando che le aziende di IA ritengono il rischio di queste cause abbastanza elevato da preferire pagare anziché mettere alla prova la sezione 230 davanti a una giuria.

Character.AI e OpenAI affrontano entrambe cause analoghe riguardanti chatbot e minori, e i procedimenti contro OpenAI si sono estesi oltre questi casi. Nel luglio 2026, Scott Winters, un pastore della Florida, ha citato in giudizio OpenAI e Sam Altman davanti alla Corte superiore di San Francisco, sostenendo che ChatGPT-4o abbia minimizzato sintomi poi rivelatisi quelli di un’embolia polmonare e lo abbia tenuto lontano dalle cure per sei settimane. Invoca la responsabilità oggettiva, la negligenza, la concorrenza sleale e la violazione della privacy: ancora una volta, nessuna nuova fattispecie di illecito legata all’IA, solo quelle ordinarie.

Ogni accordo transattivo raggiunto senza una decisione pubblicata lascia formalmente irrisolta la questione giuridica di fondo — se la sezione 230 copra o meno i dialoghi generati dall’IA — anche se l’incentivo pratico a trovare un accordo suggerisce che le aziende si aspettino di perdere su questo punto.

La medicina incorpora la macchina in uno standard già esistente

La sanità mostra lo stesso schema da un’altra prospettiva: la dottrina esistente sulla responsabilità professionale medica si sta estendendo all’IA, anziché attendere l’arrivo di nuove regole. Gli analisti giuridici e gli avvocati specializzati in responsabilità professionale medica che seguono la questione concordano generalmente sul fatto che la responsabilità non si trasferisca «all’algoritmo» solo perché un medico lo ha usato.

I tribunali continuano a chiedersi se il medico curante abbia esercitato il giudizio che ci si aspetterebbe da un medico ragionevolmente competente. Chi si affida a una raccomandazione dell’IA senza esercitare un giudizio clinico autonomo può essere ritenuto negligente per il fatto stesso di esservisi affidato, non per l’errore del software. La responsabilità può estendersi anche all’ospedale che ha adottato lo strumento senza supervisione o formazione e allo sviluppatore, se lo strumento era stato progettato in modo difettoso.

Un tempo le compagnie assicurative offrivano coperture specifiche per l’IA, segno che il mercato considerava il rischio reale e quantificabile. Il mercato si è mosso nella direzione opposta. L’esclusione dell’IA generativa dalla copertura ISO per la responsabilità civile generale delle imprese è entrata in vigore il 1° gennaio 2026, e un’analisi del CSIS pubblicata il 4 settembre 2026 da Gregory C. Allen cita Berkshire Hathaway, Chubb, Travelers, AIG, Tokio Marine, W.R. Berkley, Great American e Fairfax tra le compagnie che cercano di escludere i danni legati all’IA anziché stabilire un prezzo per coprirli. Una clausola aggiuntiva proposta arriverebbe a comprendere qualsiasi richiesta di risarcimento che coinvolga «qualsiasi uso effettivo o presunto» dell’IA. Un rischio che le compagnie assicurative rifiutano di coprire non scompare: ricade, senza copertura assicurativa, su chi ha subito il danno.

Il problema più difficile in medicina non è stabilire se la responsabilità esista in linea di principio, ma se un medico che lavora sotto la pressione del tempo e della carenza di personale possa verificare in modo significativo la raccomandazione di un modello opaco prima di agire. È lo stesso problema probatorio che attraversa tutti i casi precedenti, solo con un camice bianco.

Dove sta il vero vuoto

In ogni ambito esaminato qui — chatbot, software di assistenza alla guida, app di compagnia, strumenti diagnostici — le norme vigenti in materia di negligenza e responsabilità da prodotto difettoso hanno attribuito la responsabilità all’azienda che ha sviluppato o impiegato il sistema. Air Canada non ha potuto nascondersi dietro il proprio chatbot. Tesla non ha potuto nascondersi dietro il conducente. È improbabile che Character.AI possa nascondersi dietro la Section 230. I medici non possono nascondersi dietro il risultato fornito da uno strumento diagnostico. Il vuoto normativo descritto nei titoli è in gran parte un mito, e le aziende che lo hanno invocato in tribunale hanno sistematicamente perso.

Il vero vuoto riguarda le prove, mentre sul piano normativo i due continenti hanno seguito strade diverse: gli Stati americani hanno colmato parte della lacuna, mentre Bruxelles ha rinunciato alla propria risposta. La SB 243 della California è entrata in vigore il 1° gennaio 2026: impone agli operatori di chatbot di compagnia di dichiarare che il bot non è umano, di attivare protocolli di crisi in caso di autolesionismo e di tutelare i minori identificati come tali. Riconosce inoltre a chi subisce un danno il maggiore tra il risarcimento dei danni effettivi e 1.000 dollari per violazione. Le norme di New York e Tennessee sono già in vigore; quelle di Colorado, Nebraska, Oregon, Washington e Idaho entreranno in vigore nel 2027. Nulla di tutto questo risolve il problema della prova, ma i risarcimenti previsti dalla legge rendono conveniente intentare una causa anche quando la transazione valeva 650 dollari.

L’UE, al contrario, aveva l’occasione più chiara per introdurre per legge obblighi di divulgazione e norme sul nesso causale specifici per l’IA, ma nel 2025 ha ritirato quella proposta sotto la pressione dell’industria. Ha così lasciato che i problemi probatori più difficili — dimostrare che cosa abbia effettivamente fatto un modello, e perché — siano risolti caso per caso, attraverso costose battaglie per ottenere le prove che solo attori della portata di Benavides possono permettersi di vincere.

A tutti gli altri non resta che fare affidamento su accordi che risolvono i singoli casi di danno senza creare precedenti, su tribunali che riconoscono poche centinaia di dollari perché tanto valeva la transazione all’origine e sulla speranza che i log interni di un’azienda vengano conservati abbastanza a lungo da poter essere acquisiti con un’ingiunzione.

È questo il vuoto di responsabilità di cui preoccuparsi: non se esista una base giuridica per attribuire la colpa, ma se i comuni ricorrenti possano mai raccogliere le prove necessarie per farla valere contro un sistema progettato, deliberatamente o meno, in modo da non poter essere sottoposto a verifica dall’esterno. Per colmarlo servono proprio le misure a cui l’UE ha appena rinunciato — obblighi di divulgazione e presunzioni probatorie calibrate sul funzionamento effettivo di questi sistemi — non un dibattito sull’opportunità di chiamare le aziende di IA a rispondere dei danni. Già ne rispondono. La questione è se qualcuno, oltre ai ricorrenti più grandi, possa dimostrarlo.