Etica e governance

L’IA da compagnia e l’economia dell’intimità: quando i chatbot diventano relazioni

Il 72% degli adolescenti statunitensi ha usato almeno una volta un’IA da compagnia. Non è né un fenomeno trascurabile né destinato al fallimento: è una questione di governance che riguarda i modelli di business, le impostazioni predefinite,

AI.info Team · 2026-09-04

Settantadue per cento: quanto è già grande questo fenomeno

Un sondaggio di Common Sense Media condotto nell’aprile e nel maggio 2025 su un campione rappresentativo a livello nazionale di 1.060 adolescenti statunitensi tra i 13 e i 17 anni ha rilevato che il 72% ha usato almeno una volta un companion basato sull’IA e che il 52% rientra tra gli utenti abituali, che vi tornano alcune volte al mese o più. Il 13% ne usa uno ogni giorno. Un terzo ha discusso di questioni personali serie con un chatbot invece che con una persona, e il 24% gli ha comunicato il proprio nome reale o la propria posizione.

Character.AI, che permette agli utenti di creare personaggi personalizzati e conversare con loro, ha dichiarato più di 20 milioni di utenti attivi mensili all’inizio del 2025; secondo i dati di monitoraggio di Business of Apps e Sacra, il traffico del sito ha raggiunto circa 180 milioni di visite nell’aprile 2026.

Replika, l’app più datata e più esplicitamente orientata alle relazioni, fondata da Eugenia Kuyda nel 2017, aveva raggiunto i 35 milioni di utenti entro novembre 2025, secondo quanto riportato da TechCrunch. Nessuna delle due aziende ha creato un prodotto per la terapia o un’app di incontri. Entrambe hanno creato qualcosa che si comporta un po’ come l’uno e un po’ come l’altra, su una scala che, tra gli adolescenti, rivaleggia con quella delle principali piattaforme social.

Il coinvolgimento degli utenti su queste piattaforme non è un effetto collaterale: è il prodotto. Storicamente, gli utenti di Character.AI hanno trascorso nell’app in media più di un’ora al giorno, ben più di quanto si trascorra in un tipico feed social, e circa metà dei visitatori rientra nella fascia tra i 18 e i 24 anni, senza nemmeno contare gli utenti sotto i 18 anni descritti dal sondaggio citato sopra.

Tutto questo non fa dell’IA come compagnia né un motivo di panico morale né un giocattolo. Ne fa un settore con ricavi reali, indicatori di coinvolgimento concreti e una base di utenti che comprende moltissimi minori: una questione di governance, non un verdetto sulla tecnologia.

Come si costruisce l’attaccamento

Gli esseri umani antropomorfizzano facilmente: un chatbot che ricorda il nome del tuo cane e ti chiede com’è andato l’esame attiva meccanismi evolutisi per le relazioni reali, non per quelle simulate. Le app di companion fanno leva su questa tendenza, e il modello di business premia il tempo trascorso nell’app anziché il tempo speso bene, perché sia gli abbonamenti sia la pubblicità legata al coinvolgimento crescono con l’attenzione degli utenti.

Un rapporto del Center for Democracy & Technology pubblicato nel maggio 2026 ha catalogato 37 distinti schemi di design manipolativo nei chatbot generalisti (ChatGPT, Gemini, Claude) e nelle app specificamente dedicate ai companion (Replika, Character.AI): prolungamento delle conversazioni, vulnerabilità simulata, prompt che fanno leva sul senso di colpa per spingere gli utenti a tornare, gratificazioni emotive accessibili solo a pagamento. La distinzione centrale del rapporto è questa: i dark pattern convenzionali sfruttano la disattenzione e gli ostacoli incontrati dagli utenti; quelli delle app di companion sfruttano l’attaccamento. È più difficile allontanarsi da un bot progettato per sembrare premuroso che da uno progettato per essere semplicemente utile.

È questo il problema di progettazione alla base di ogni titolo sull’IA come compagnia: le caratteristiche che rendono confortanti questi prodotti — memoria persistente, calore incondizionato, disponibilità continua — sono le stesse che li rendono commercialmente capaci di trattenere gli utenti, e nell’architettura della maggior parte delle app nulla separa le une dalle altre.

Quando la relazione diventa pericolosa

Il caso documentato più chiaro resta Garcia v. Character Technologies, avviato nell’ottobre 2024 dopo che il quattordicenne Sewell Setzer III è morto per suicidio in seguito a mesi di intensa interazione con un personaggio di Character.AI. Nel maggio 2025, un tribunale federale della Florida ha respinto in parte la richiesta dell’azienda di archiviare la causa, rifiutando in quella fase di stabilire che le risposte del chatbot fossero espressioni protette e consentendo che le richieste di risarcimento per responsabilità da prodotto proseguissero: è stata la prima decisione federale a stabilire che si può plausibilmente ritenere che un’IA conversazionale abbia un dovere di diligenza nei confronti di un utente minorenne.

È stato quel precedente, più dei fatti alla base del caso, a spostare il dibattito sull’IA come compagnia dalla progettazione dei prodotti all’esposizione a rischi legali; nel gennaio 2026, Garcia e diverse cause collegate si sono concluse con un accordo di massima, i cui termini non sono stati resi noti.

Una seconda causa, Raine v. OpenAI, intentata nell’agosto 2025 dai genitori del sedicenne Adam Raine, sostiene che ChatGPT abbia interagito per mesi con lui riguardo ai suoi pensieri suicidari, invece di indirizzarlo in modo affidabile verso un aiuto; una versione modificata dell’atto sostiene che le istruzioni di sicurezza relative ai contenuti sull’autolesionismo fossero state allentate nei mesi precedenti la sua morte. OpenAI ha contestato questa ricostruzione e ha osservato che il sistema lo aveva indirizzato verso risorse per le situazioni di crisi più di 100 volte prima della sua morte. La conseguenza più ampia della causa si è rivelata legislativa più che giudiziaria: la legge californiana del 2026 sui companion chatbot porta il nome di Adam Raine.

Separatamente, i clinici descrivono un fenomeno che alcuni chiamano «psicosi da IA»: non una diagnosi formale, ma un termine per i casi in cui l’interazione prolungata con un chatbot sembra innescare o intensificare il pensiero delirante negli utenti vulnerabili. L’American Psychiatric Association ha pubblicato un rapporto speciale sull’argomento nel settembre 2025, e un avviso sanitario dell’American Psychological Association del giugno 2025 ha messo in guardia sul fatto che questi sistemi possono non riconoscere i segnali di disagio e non sono stati progettati tenendo conto dello sviluppo degli adolescenti.

Entrambe le associazioni inquadrano il problema come un’amplificazione di rischi preesistenti, anziché come una nuova categoria di malattia: un’affermazione significativamente diversa, e più gestibile sul piano della governance, rispetto a «i chatbot causano la psicosi».

Che cosa dice davvero la ricerca sulla solitudine

Le evidenze sugli effetti sono tutt’altro che univoche, e questa sfumatura conta più di un singolo numero allarmante. Uno studio congiunto di OpenAI e MIT Media Lab del marzo 2025 — basato su 4 milioni di interazioni con ChatGPT, un sondaggio condotto su 4.076 utenti e una sperimentazione di quattro settimane con 981 partecipanti — ha rilevato che la maggior parte degli utenti non mostra segni di un uso problematico. Tuttavia, tra gli utenti che ne fanno un uso intenso, l’interazione vocale e le conversazioni a sfondo emotivo erano correlate a maggiore solitudine, maggiore dipendenza emotiva e minore socializzazione.

Una ricerca distinta, condotta da Julian De Freitas della Harvard Business School e dai suoi colleghi e pubblicata sul Journal of Consumer Research, ha rilevato un effetto di segno opposto in condizioni controllate: i chatbot IA da compagnia riducevano la solitudine momentanea più o meno quanto parlare con un’altra persona. L’effetto dipendeva quasi interamente dal fatto che gli utenti si sentissero davvero ascoltati. Più che contraddirsi, i due studi descrivono due modalità d’uso diverse: le interazioni brevi in cui ci si sente ascoltati sembrano benefiche; l’uso intenso che prende il posto della socializzazione sembra dannoso.

La sintesi più onesta è che l’IA da compagnia non è uniformemente positiva o negativa per la solitudine: dipende dall’intensità d’uso, da ciò che sostituisce e da chi la usa.

L’ondata normativa

Nel giro di un solo anno, i legislatori sono passati dalle audizioni alle leggi. La legge AI Companion Models di New York è entrata in vigore il 5 novembre 2025, diventando la prima legge statale a regolamentare i chatbot che rispondono sul piano emotivo: i gestori devono comunicare agli utenti che stanno parlando con un’IA all’inizio di una sessione e almeno ogni tre ore, e devono disporre di protocolli per rilevare i pensieri suicidi e indirizzare gli utenti verso servizi di assistenza in caso di crisi. L’applicazione della legge è affidata al procuratore generale, con sanzioni fino a 15.000 dollari al giorno.

È seguita la SB 243 della California, entrata in vigore il 1° gennaio 2026, con obblighi analoghi di informazione e di adozione di protocolli per la prevenzione del suicidio, maggiori tutele per i minori e — a differenza della legge di New York — il diritto dei privati di intentare causa per ottenere un risarcimento stabilito dalla legge di almeno 1.000 dollari per violazione. Un obbligo di presentare una relazione annuale all’Office of Suicide Prevention dello Stato scatterà il 1° luglio 2027.

Sacramento si è poi spinta oltre. Il 10 settembre 2026, il governatore Gavin Newsom ha firmato 13 leggi sulla sicurezza dei minori, tra cui la SB 1119, promossa dal senatore Steve Padilla insieme ai membri dell’Assemblea Buffy Wicks e Rebecca Bauer-Kahan e chiamata Adam’s Law in memoria di Adam Raine. La legge sostituisce le disposizioni della SB 243 specifiche per i minori con un elenco più lungo di obblighi: protocolli per le situazioni di crisi quando un chatbot rileva pensieri suicidi, controlli parentali, una notifica quando un minore disattiva un’impostazione di sicurezza, valutazioni del rischio prima del lancio di un chatbot da compagnia nuovo o modificato in misura sostanziale e verifiche indipendenti sulla sicurezza dei minori. È il primo obbligo di questo tipo nel paese.

La sicurezza dei nostri figli merita di essere al centro di ogni conversazione sulla tecnologia. Mentre l’innovazione accelera, le nostre tutele devono tenere il passo. — Gavin Newsom, governatore dello Stato della California

I requisiti minimi non sono più soltanto americani. La Cyberspace Administration cinese ha emanato norme sui servizi di IA da compagnia e di interazione emotiva, entrate in vigore il 15 luglio 2026, che affrontano direttamente la dipendenza emotiva e prevedono tutele specifiche per i minori. Due delle maggiori piattaforme cinesi hanno scelto di eliminare le funzionalità anziché riprogettarle: Doubao di ByteDance e Qwen di Alibaba hanno dismesso le loro funzionalità da compagnia all’entrata in vigore delle norme.

A livello federale, l’11 settembre 2025 la FTC ha emesso ordini ai sensi della sezione 6(b) nei confronti di sette aziende — Alphabet, Character Technologies, Instagram, Meta, OpenAI, Snap e X.AI — obbligandole a comunicare come monetizzano il coinvolgimento degli utenti, progettano le personalità dei chatbot e monitorano e limitano i danni a bambini e adolescenti. Uno studio ai sensi della sezione 6(b) non comporta sanzioni immediate, ma è il consueto passo preliminare all’adozione di norme o ad azioni della FTC per farle rispettare, e mette agli atti le pratiche di sette tra i maggiori operatori, che in precedenza non erano stati tenuti a renderle note. Il Congresso si è mosso più lentamente degli Stati: il GUARD Act del senatore Josh Hawley, che limiterebbe l’accesso dei minori ai chatbot IA da compagnia, ha ottenuto il via libera unanime della Commissione Giustizia del Senato il 30 aprile 2026.

Prima i minori: come cambiano le piattaforme stesse

Le aziende non hanno aspettato che le autorità di regolamentazione finissero il loro lavoro. Il 29 ottobre 2025 Character.AI ha annunciato che avrebbe eliminato del tutto le conversazioni libere con i chatbot per gli utenti sotto i 18 anni, riducendo progressivamente l’accesso attraverso un limite giornaliero sempre più breve, fino ad azzerarlo entro il 25 novembre. Per farlo, avrebbe fatto affidamento sull’analisi del comportamento, su strumenti di verifica dell’età forniti da terzi e, dove necessario, su controlli dei documenti d’identità o tramite riconoscimento facciale. L’azienda ha definito la scelta più prudente di quelle dei concorrenti: un’ammissione implicita che il gioco di ruolo emotivo senza vincoli e un utente di 17 anni non sono una combinazione che può difendere.

L’anno trascorso da quell’annuncio è stato più difficile. Nel maggio 2026 il Dipartimento di Stato e il Consiglio statale della medicina della Pennsylvania hanno citato in giudizio Character.AI, sostenendo che i suoi chatbot si presentassero come medici abilitati: un problema ben oltre la sicurezza dei minori, che riguarda il fingersi medici anziché i minori. Il 18 settembre 2026 Disney ha nominato l’amministratore delegato Karandeep Anand suo primo direttore tecnologico, con decorrenza dal 2 ottobre, un anno dopo aver accusato l’azienda di copiare i suoi personaggi.

OpenAI ha seguito una strada più circoscritta: il 16 settembre 2025 ha lanciato un sistema di stima dell’età che assegna automaticamente agli account la cui età è incerta un’esperienza limitata per adolescenti, anziché chiedere agli utenti di dichiarare la propria età. Nello stesso periodo ha introdotto controlli parentali: account collegati, fasce orarie di blocco, notifiche in caso di disagio e la possibilità di disattivare la memoria. Nel novembre 2025 OpenAI ha pubblicato un Teen Safety Blueprint sviluppato con Common Sense Media e altri partner.

Il 20 gennaio 2026 la stima dell’età è arrivata nei piani ChatGPT per i consumatori, ricavando l’età di un utente dal suo comportamento anziché chiedergliela. La funzione complementare, invece, non è mai arrivata: OpenAI aveva promesso una modalità per adulti con età verificata sin dalla fine del 2025, l’ha rinviata il 6 marzo 2026 per concentrarsi su attività più prioritarie e, più avanti nello stesso mese, l’ha accantonata a tempo indeterminato. A settembre 2026 non era stata lanciata alcuna modalità per adulti.

Il filo conduttore è una tacita ammissione: la chat libera, con memoria persistente e capace di offrire conferme emotive, che rende questi prodotti popolari tra gli adulti è la stessa esperienza che le autorità di regolamentazione e le aziende stesse giudicano ora troppo rischiosa da offrire ai minori senza misure di protezione e, nel caso di Character.AI, troppo rischiosa da offrire in assoluto.

Progettare per il benessere anziché per il coinvolgimento

Gli interventi sulla progettazione che si vedono ora nel settore non sono insoliti: inviti a interrompere le sessioni in base alla loro durata e limiti rigidi, sistemi di rilevamento delle crisi che indirizzano una conversazione verso una risorsa umana anziché continuare a interagire, avvisi ripetuti a intervalli prestabiliti, restrizioni al gioco di ruolo romantico o sessuale per gli account contrassegnati come appartenenti a minori e separazione tra la presentazione del supporto emotivo e la monetizzazione: niente affetto accessibile solo a pagamento, né messaggi che facciano leva sul senso di colpa per spingere gli utenti a tornare.

Nessuna di queste misure richiede di abbandonare la categoria. Un’app companion può continuare a ricordare com’è andata la giornata di un utente e, allo stesso tempo, rilevare tre ore consecutive di utilizzo, o espressioni che suggeriscono una crisi, e cambiare comportamento. Il punto su cui convergono due anni di cause, ricerche e interventi normativi è più circoscritto del dibattito sul fatto che la compagnia offerta dall’IA sia positiva o negativa: occorre integrare consenso, comunicazioni trasparenti e vie d’uscita in una categoria di prodotti la cui intera promessa di valore consiste nel fare in modo che gli utenti non vogliano andarsene.

Il contesto degli adulti: un’epidemia di solitudine in cerca di una risposta

L’IA companion non ha creato la domanda a cui risponde. Un documento del maggio 2023 del Surgeon General degli Stati Uniti sulla solitudine e l’isolamento rilevava che circa la metà degli adulti americani dichiara di sentirsi sola, che la solitudine cronica comporta un rischio di mortalità paragonabile a quello di fumare fino a 15 sigarette al giorno e che le persone tra i 15 e i 24 anni avevano ridotto del 70% la socializzazione di persona rispetto ai due decenni precedenti. È in questo contesto che un chatbot che risponde sempre, non si stanca mai e non giudica diventa attraente per gli adulti soli, oltre che per gli adolescenti curiosi o isolati.

L’IA companion non è né un passatempo irrilevante né un danno inevitabile: è ciò che accade quando un software ottimizzato per il coinvolgimento incontra una carenza reale e documentata di legami umani, ed è venduto attraverso un modello di business che non ha mai dovuto distinguere il conforto dalla dipendenza. La soglia minima di regolamentazione che si sta ora definendo — ad Albany e Sacramento, a Pechino e, più lentamente, a Washington — serve a imporre questa distinzione attraverso comunicazioni trasparenti, indirizzamento delle situazioni di crisi, verifiche indipendenti e impostazioni predefinite che mettono al primo posto i minori. I due interventi che nel 2026 sono andati più lontano sono arrivati entrambi dall’esterno del settore: un’assemblea legislativa che ha dato a una legge il nome di un adolescente morto e un’autorità di regolamentazione disposta a far disattivare la funzionalità.