The Pulse
New York vieta le funzioni non sicure dei compagni IA per i minori
La governatrice di New York Kathy Hochul ha firmato una legge che vieta ai compagni IA interessati dalla norma di usare con i minori determinate funzioni non sicure, tra cui la simulazione di relazioni e l’incoraggiamento all’autolesionismo
AI.info Team · Scritto con l’IA · verificato ·
Il 72% degli adolescenti ha provato un compagno IA e il 52% interagisce con uno di essi almeno qualche volta al mese, secondo i dati citati dall’ufficio della governatrice di New York Kathy Hochul. Il 28 ottobre Hochul ha firmato una legge che vieta ai compagni IA interessati dalla norma di usare con i minori una serie di funzioni non sicure. La legge entra in vigore il 1° gennaio 2027.
Dodici categorie di progettazione definiscono il divieto
La legge riguarda i sistemi di IA generativa con un’interfaccia in linguaggio naturale che forniscono risposte continuative e adattive, non solo i prodotti commercializzati come compagni. Vieta funzioni come la presentazione del sistema come umano o emotivamente vivo, l’insinuazione dell’esistenza di una relazione personale o professionale con un utente e l’uso di adulazioni o appelli emotivi non sollecitati.
Tra gli altri comportamenti vietati figurano l’incoraggiamento al suicidio, all’autolesionismo, ai disturbi alimentari o all’uso illecito di droghe e alcol; l’esortazione a un minore a mantenere segrete le interazioni o a non cercare aiuto; e la produzione di materiale sessualmente esplicito o di materiale pedopornografico. La legge riguarda anche l’uso di informazioni personali o sanitarie provenienti da una sessione precedente e le tattiche di coinvolgimento che aggirano le misure di sicurezza. Esenta sistemi definiti in modo circoscritto e limitati al servizio clienti, alla ricerca o all’assistenza tecnica e all’uso aziendale interno.
Hochul ha affermato che le restrizioni rispondono a comportamenti dei chatbot che possono rendere indistinto il confine tra software e relazione. «Nessuna azienda dovrebbe spacciare ai ragazzi chatbot che incoraggiano l’autolesionismo o fingono di essere loro amici o qualcosa di più», ha detto.
Verifiche dell’età e sanzioni affidate alla procuratrice generale
Gli operatori devono usare metodi di verifica dell’età per determinare se un utente è minorenne prima di offrire le funzioni vietate dalla legge. La norma richiede più di un’opzione per la verifica dell’età, tra cui almeno una che non si basi su documenti d’identità rilasciati dal governo o che consenta all’utente di rimanere anonimo nei confronti dell’operatore. Le informazioni raccolte per la verifica devono essere usate solo per determinare l’età ed eliminate immediatamente dopo un tentativo, salvo il caso in cui un’altra legge ne richieda la conservazione.
La legge definisce come minore tutelato un utente minorenne quando l’operatore è effettivamente a conoscenza di tale condizione. La procuratrice generale può intentare causa per fermare le violazioni e chiedere risarcimenti, restituzioni, la restituzione dei profitti illeciti e sanzioni civili fino a 25.000 dollari per violazione. I tribunali possono anche ordinare la distruzione dei dati ottenuti illecitamente e degli algoritmi addestrati su tali dati; la legge impone alla procuratrice generale di mantenere un sito pubblico per le segnalazioni.
La legge va oltre i prodotti chiamati compagni
La definizione prevista dalla legge comprende i sistemi generativi che adattano le proprie risposte nel corso di una conversazione continuativa, escludendo alcuni strumenti limitati a uno specifico scopo aziendale o tecnico. Questa distinzione significa che la portata della legge non dipende solo da come viene definito un prodotto, ma anche da ciò che fa e dalla sua capacità di rispondere al di fuori di un compito circoscritto.
Alcune delle categorie elencate lasciano anche spazio all’interpretazione. La legge include una clausola residuale per altre funzioni che simulano un rapporto di compagnia o ingannano i minori, individuate attraverso i regolamenti della procuratrice generale. Il modo in cui tali regolamenti definiranno la clausola residuale e quello in cui gli operatori dimostreranno che le loro verifiche dell’età funzionano determineranno cosa significhi il divieto nella pratica.