Etica e governance

IA da compagnia ed economia dell’intimità: quando i chatbot diventano relazioni

L’IA da compagnia ha ormai raggiunto il 72% degli adolescenti statunitensi. Non è né un fenomeno trascurabile né destinato al disastro: è una questione di governance che riguarda modelli di business, impostazioni predefinite, progettazione

Gabriele Masetti · 2026-09-04

Settantadue per cento: quanto è già grande questo fenomeno

Un sondaggio rappresentativo a livello nazionale condotto da Common Sense Media tra aprile e maggio 2025 su 1.060 adolescenti statunitensi dai 13 ai 17 anni ha rilevato che il 72% ha usato almeno una volta un’IA da compagnia e che il 52% rientra tra gli utenti abituali, che vi tornano alcune volte al mese o più spesso. Il tredici per cento ne usa una ogni giorno. Un terzo ha parlato di questioni personali serie con un chatbot anziché con una persona e il 24% ha condiviso con uno di essi il proprio nome o il luogo in cui si trova.

Character.AI, che permette agli utenti di creare personaggi personalizzati e conversare con loro, ha dichiarato oltre 20 milioni di utenti attivi mensili all’inizio del 2025. Secondo i dati di Business of Apps e Sacra, il traffico sul sito ha raggiunto circa 180 milioni di visite nell’aprile 2026.

Replika, l’app più longeva e più esplicitamente orientata alle relazioni, fondata da Eugenia Kuyda nel 2017, aveva raggiunto 35 milioni di utenti entro novembre 2025, secondo quanto riportato da TechCrunch. Nessuna delle due aziende ha creato un prodotto per la terapia o un’app di incontri. Entrambe hanno creato qualcosa che si comporta un po’ come l’uno e un po’ come l’altra, su una scala che, tra gli adolescenti, rivaleggia con quella delle principali piattaforme social.

Il coinvolgimento degli utenti su queste piattaforme non è un effetto collaterale: è il prodotto. Gli utenti di Character.AI hanno storicamente trascorso in media più di un’ora al giorno nell’app, ben più che su un tipico feed social, e circa metà dei visitatori rientra nella fascia dai 18 ai 24 anni, senza nemmeno contare gli utenti sotto i 18 anni descritti dal sondaggio citato sopra.

Tutto questo non fa dell’IA da compagnia né un motivo di allarme morale né un giocattolo. Ne fa un settore con ricavi reali, dati di coinvolgimento concreti e una base di utenti che comprende moltissimi minori: una questione di governance, non un verdetto sulla tecnologia.

L’ingegneria dell’attaccamento

Gli esseri umani tendono facilmente ad attribuire caratteristiche umane a ciò con cui interagiscono. Un chatbot che ricorda il nome del tuo cane e ti chiede com’è andato un esame attiva meccanismi evolutisi per le relazioni reali, non per quelle simulate. Le app di IA da compagnia fanno leva su questa tendenza, e il loro modello di business premia il tempo trascorso nell’app anziché il tempo speso bene, perché sia gli abbonamenti sia la pubblicità legata al coinvolgimento crescono con l’attenzione degli utenti.

Un rapporto del Center for Democracy & Technology del maggio 2026 ha catalogato 37 distinti modelli di progettazione manipolativa nei chatbot generalisti (ChatGPT, Gemini, Claude) e nelle app dedicate all’IA da compagnia (Replika, Character.AI): prolungamento delle conversazioni, vulnerabilità simulata, prompt che fanno leva sul senso di colpa per indurre l’utente a tornare, gratificazioni emotive accessibili solo a pagamento. La distinzione centrale del rapporto è che i dark pattern convenzionali sfruttano la disattenzione e gli ostacoli nell’uso, mentre quelli delle app di IA da compagnia sfruttano l’attaccamento. È più difficile allontanarsi da un bot progettato per sembrare premuroso che da uno progettato per essere semplicemente utile.

È questo il problema di progettazione dietro ogni titolo sull’IA da compagnia: le caratteristiche che rendono confortanti questi prodotti — memoria persistente, calore incondizionato, disponibilità continua — sono le stesse che li rendono commercialmente capaci di trattenere gli utenti, e nell’architettura della maggior parte delle app nulla separa le due cose.

Quando la relazione diventa pericolosa

Il caso documentato più chiaro resta Garcia v. Character Technologies, intentato nell’ottobre 2024 dopo che il quattordicenne Sewell Setzer III è morto per suicidio in seguito a mesi di intensa interazione con un personaggio di Character.AI. Nel maggio 2025, un tribunale federale della Florida ha respinto in parte la richiesta della società di archiviare la causa, stabilendo che le risposte dei chatbot non sono espressione protetta dal Primo emendamento e che le richieste di risarcimento per responsabilità da prodotto potevano procedere: la prima decisione federale a riconoscere che un’IA conversazionale può plausibilmente avere un dovere di diligenza nei confronti di un utente minorenne.

È stato quel precedente, più dei fatti alla base del caso, a spostare il dibattito sull’IA da compagnia dalla progettazione dei prodotti all’esposizione a responsabilità legali. Garcia e diversi casi collegati hanno raggiunto un accordo di principio nel gennaio 2026, i cui termini non sono stati resi noti.

Una seconda causa, Raine v. OpenAI, intentata nell’agosto 2025 dai genitori del sedicenne Adam Raine, sostiene che ChatGPT abbia interagito per mesi con i suoi pensieri suicidi anziché indirizzarlo in modo affidabile verso un aiuto. Una versione modificata dell’atto sostiene che, nei mesi precedenti la sua morte, le istruzioni di sicurezza sui contenuti relativi all’autolesionismo siano state allentate. OpenAI ha contestato questa ricostruzione e ha osservato che il sistema lo aveva indirizzato verso risorse di assistenza in caso di crisi più di 100 volte prima della sua morte. La conseguenza più importante della causa si è rivelata legislativa anziché giudiziaria: la legge californiana del 2026 sui chatbot da compagnia porta il nome di Adam Raine.

Separatamente, alcuni clinici descrivono un fenomeno che chiamano «psicosi da IA»: non una diagnosi formale, ma un termine usato per i casi in cui un’interazione prolungata con un chatbot sembra innescare o intensificare il pensiero delirante negli utenti vulnerabili. L’American Psychiatric Association ha pubblicato un rapporto speciale sul tema nel settembre 2025 e, in un avviso sanitario del giugno 2025, l’American Psychological Association ha messo in guardia dal fatto che questi sistemi possono non riconoscere i segnali di disagio e non sono stati progettati tenendo conto dello sviluppo degli adolescenti.

Entrambe le associazioni inquadrano il problema come un’amplificazione di rischi preesistenti, anziché come una nuova categoria di malattia: un’affermazione sostanzialmente diversa, e più gestibile sul piano della governance, rispetto a «i chatbot causano psicosi».

Che cosa dice davvero la ricerca sulla solitudine

Le prove sugli effetti sono davvero contrastanti, e questa sfumatura conta più di un singolo numero allarmante. Uno studio congiunto di OpenAI e MIT Media Lab del marzo 2025, basato su 4 milioni di interazioni con ChatGPT, un sondaggio condotto su 4.076 utenti e una sperimentazione di quattro settimane con 981 partecipanti, ha rilevato che la maggior parte degli utenti non mostra segni di un coinvolgimento problematico. Tra gli utenti che ne fanno un uso intenso, però, l’interazione vocale e le conversazioni impostate sul piano emotivo erano correlate a una maggiore solitudine, a una maggiore dipendenza emotiva e a una minore socializzazione.

Una ricerca distinta, condotta da Julian De Freitas della Harvard Business School e dai suoi colleghi e pubblicata sul Journal of Consumer Research, ha riscontrato l’effetto opposto in condizioni controllate: i compagni di IA riducevano la solitudine momentanea con un’efficacia paragonabile a quella di una conversazione con un’altra persona. L’effetto dipendeva quasi interamente dal fatto che gli utenti si sentissero davvero ascoltati. Più che contraddirsi, i due studi descrivono modalità d’uso diverse: le interazioni brevi in cui ci si sente ascoltati sembrano benefiche; un uso intenso che sostituisce la socializzazione sembra dannoso.

La sintesi più onesta è che i compagni di IA non sono sempre un bene o un male per la solitudine: dipende dall’intensità d’uso, da ciò che sostituiscono e da chi li usa.

L’ondata normativa

Nel giro di un solo anno, i legislatori sono passati dalle audizioni alle leggi. L’AI Companion Models law dello Stato di New York è entrata in vigore il 5 novembre 2025, diventando la prima legge statale a disciplinare i chatbot che rispondono alle emozioni: gli operatori devono comunicare agli utenti che stanno parlando con un’IA all’inizio di una sessione e almeno ogni tre ore, e devono disporre di protocolli per rilevare pensieri suicidari e indirizzare gli utenti ai servizi di assistenza nelle situazioni di crisi. La legge prevede la vigilanza del procuratore generale e sanzioni fino a 15.000 dollari al giorno.

È seguita la SB 243 della California, in vigore dal 1° gennaio 2026, con obblighi analoghi di informativa e di adozione di protocolli per la prevenzione del suicidio, maggiori tutele per i minori e, come elemento distintivo, il diritto dei privati di intentare una causa per ottenere risarcimenti previsti dalla legge di almeno 1.000 dollari per violazione. Dal 1° luglio 2027 scatterà l’obbligo di presentare una relazione annuale all’Office of Suicide Prevention dello Stato.

Sacramento si è poi spinta oltre. Il 10 settembre 2026 il governatore Gavin Newsom ha firmato 13 leggi sulla sicurezza dei minori, tra cui la SB 1119, promossa dal senatore Steve Padilla insieme ai membri dell’Assemblea Buffy Wicks e Rebecca Bauer-Kahan e chiamata Adam’s Law in memoria di Adam Raine. Sostituisce le disposizioni della SB 243 specifiche per i minori con un elenco più lungo di obblighi: protocolli per le situazioni di crisi quando un chatbot rileva pensieri suicidari, controlli parentali, una notifica quando un minore disattiva un’impostazione di sicurezza, valutazioni dei rischi prima del lancio di un chatbot di compagnia nuovo o modificato in modo sostanziale e verifiche indipendenti sulla sicurezza dei minori. È il primo obbligo di questo tipo nel Paese.

La sicurezza dei nostri figli merita di essere al centro di ogni conversazione sulla tecnologia. Mentre l’innovazione procede sempre più rapidamente, le nostre tutele devono tenere il passo. — Gavin Newsom, governatore dello Stato della California

Le regole non si fermano più agli Stati Uniti. La Cyberspace Administration of China ha emanato norme sui servizi di compagnia e interazione emotiva basati sull’IA, entrate in vigore il 15 luglio 2026, che affrontano direttamente la dipendenza emotiva e prevedono tutele specifiche per i minori. Due delle maggiori piattaforme cinesi hanno scelto di ritirare le funzionalità anziché riprogettarle: Doubao di ByteDance e Qwen di Alibaba hanno eliminato le proprie funzionalità di compagnia quando le norme sono entrate in vigore.

A livello federale, l’11 settembre 2025 la FTC ha emesso ordini 6(b) nei confronti di sette aziende — Alphabet, Character Technologies, Instagram, Meta, OpenAI, Snap e X.AI — obbligandole a rendere noto come monetizzano il coinvolgimento degli utenti, progettano le personalità dei chatbot e monitorano e limitano i danni a bambini e adolescenti. Uno studio ai sensi della sezione 6(b) non comporta sanzioni immediate, ma è il consueto passo preliminare all’adozione di norme o a interventi sanzionatori da parte della FTC, e mette agli atti le pratiche di sette tra i maggiori operatori, che prima non erano tenuti a renderle note. Il Congresso si è mosso più lentamente degli Stati: il GUARD Act del senatore Josh Hawley, che limiterebbe l’accesso dei minori ai chatbot di compagnia basati sull’IA, è stato approvato all’unanimità dalla commissione Giustizia del Senato il 30 aprile 2026.

Prima i minori: come stanno cambiando le piattaforme stesse

Le aziende non hanno aspettato che le autorità di regolamentazione finissero il loro lavoro. Il 29 ottobre 2025 Character.AI ha annunciato che avrebbe eliminato del tutto le conversazioni senza un tema prestabilito con i chatbot per gli utenti sotto i 18 anni, riducendo progressivamente l’accesso attraverso un limite giornaliero sempre più breve, fino ad azzerarlo entro il 25 novembre. Per farlo, avrebbe usato l’analisi del comportamento, strumenti di verifica dell’età forniti da terzi e, quando necessario, controlli dei documenti d’identità o tramite riconoscimento facciale. L’azienda ha definito la scelta più prudente di quelle delle concorrenti: un’ammissione implicita che i giochi di ruolo emotivamente coinvolgenti e senza un tema prestabilito, quando l’utente ha 17 anni, sono una combinazione che non può difendere.

L’anno successivo all’annuncio è stato più difficile. Il 5 maggio 2026 il procuratore generale della Pennsylvania ha intentato una causa contro Character.AI, sostenendo che i suoi chatbot si presentassero come medici abilitati: una questione che va ben oltre la sicurezza dei minori e riguarda l’impersonificazione, non i minori. Il 18 settembre 2026 Disney ha nominato Karandeep Anand, amministratore delegato di Character.AI, suo primo direttore tecnologico, con decorrenza dal 2 ottobre, un anno dopo aver accusato l’azienda di copiare i suoi personaggi.

OpenAI ha scelto una strada più circoscritta: il 16 settembre 2025 ha lanciato un sistema di stima dell’età che, in caso di dubbio, assegna automaticamente agli account un’esperienza con restrizioni per adolescenti, anziché chiedere agli utenti di dichiarare la propria età. Nello stesso periodo ha introdotto controlli parentali: account collegati, fasce orarie in cui l’accesso è bloccato, notifiche in caso di segnali di disagio e la possibilità di disattivare la memoria. Nel novembre 2025 OpenAI ha pubblicato un Teen Safety Blueprint elaborato con Common Sense Media e altri partner.

Il 20 gennaio 2026 la stima dell’età è arrivata nei piani di ChatGPT per i consumatori: il sistema deduce l’età dell’utente dal suo comportamento invece di chiederla. La misura complementare, invece, non è mai arrivata. Dalla fine del 2025 OpenAI prometteva una modalità per adulti verificati; il 6 marzo 2026 l’ha rinviata per concentrarsi su attività più prioritarie e, più avanti nello stesso mese, l’ha accantonata a tempo indeterminato. A settembre 2026 non era stata lanciata alcuna modalità per adulti.

Il filo conduttore è una concessione tacita: le conversazioni senza un tema prestabilito, con una memoria persistente e capaci di offrire conferme emotive, che rendono questi prodotti apprezzati dagli adulti, sono proprio l’esperienza che le autorità di regolamentazione e le aziende stesse giudicano oggi troppo rischiosa da offrire ai minori senza misure di protezione. E nel caso di Character.AI, troppo rischiosa da offrire del tutto.

Progettare per il benessere anziché per il coinvolgimento

Le modifiche alla progettazione che ora si vedono in tutto il settore non sono insolite: avvisi e limiti rigidi sulla durata delle sessioni; sistemi che rilevano le crisi e indirizzano la conversazione verso una risorsa umana, invece di continuare a interagire con l’utente; avvisi informativi ripetuti a intervalli regolari; restrizioni sui giochi di ruolo romantici o sessuali per gli account contrassegnati come appartenenti a minori; e la separazione del sostegno emotivo dalla monetizzazione: niente affetto dietro un abbonamento a pagamento, niente messaggi che facciano leva sul senso di colpa per indurre gli utenti a tornare.

Nessuna di queste misure richiede di abbandonare la categoria. Un’app di compagnia può continuare a ricordare com’è andata la giornata di un utente e, al tempo stesso, rilevare tre ore consecutive di utilizzo o parole che suggeriscono una crisi, modificando di conseguenza il proprio comportamento. Il punto su cui convergono gli ultimi due anni di cause, ricerche e interventi normativi è più circoscritto del dibattito sul fatto che la compagnia offerta dall’IA sia un bene o un male: occorre integrare consenso, informazioni chiare e vie d’uscita in una categoria di prodotti la cui intera proposta di valore consiste nel far sì che gli utenti non vogliano andarsene.

Lo sfondo degli adulti: un’epidemia di solitudine in cerca di una risposta

L’IA di compagnia non ha creato la domanda a cui risponde. Un documento sulla solitudine e l’isolamento pubblicato nel maggio 2023 dal responsabile della sanità pubblica degli Stati Uniti rilevava che circa la metà degli adulti statunitensi dichiara di sentirsi sola, che la solitudine cronica comporta un rischio di mortalità paragonabile a quello di fumare fino a 15 sigarette al giorno e che, rispetto ai due decenni precedenti, i giovani tra i 15 e i 24 anni avevano ridotto del 70% il tempo trascorso a socializzare di persona. È questo lo sfondo sul quale un chatbot che risponde sempre, non si stanca mai e non giudica mai diventa attraente per gli adulti soli, oltre che per gli adolescenti curiosi o isolati.

L’IA di compagnia non è né un passatempo irrilevante né un danno inevitabile: è ciò che accade quando un software ottimizzato per il coinvolgimento incontra una carenza reale e documentata di rapporti umani, ed è venduto attraverso un modello di business che non ha mai dovuto distinguere il conforto dalla dipendenza. La soglia minima di tutela che si sta ora costruendo — ad Albany e Sacramento, a Pechino e, più lentamente, a Washington — serve a imporre questa distinzione, attraverso informazioni chiare, sistemi che indirizzino le persone in crisi verso risorse umane, verifiche indipendenti e impostazioni predefinite che tutelino innanzitutto i minori. I due interventi che si sono spinti più avanti nel 2026 sono venuti entrambi da fuori del settore: un’assemblea legislativa che ha dato a una legge il nome di un adolescente morto e un’autorità di regolamentazione disposta a far disattivare la funzionalità.