The Pulse

Il Consiglio comunale di New York propone verifiche sull’IA, interruttori di arresto e ricompense per chi segnala violazioni

La presidente del Consiglio comunale di New York, Julie Menin, ha annunciato proposte di legge che imporrebbero una verifica da parte di soggetti terzi e controlli che consentano a una persona di arrestare i sistemi di IA commercializzati o

AI.info Team · Scritto con l’IA · verificato · 2026-09-26

La presidente del Consiglio comunale di New York, Julie Menin, afferma che la città può sostenere l’innovazione nell’IA e al tempo stesso imporre nuove norme di sicurezza. Il suo pacchetto legislativo renderebbe le verifiche indipendenti e un controllo di arresto azionabile da una persona condizioni necessarie per commercializzare o impiegare sistemi di IA in città. Le proposte, annunciate il 25 settembre, prevedono anche una quota delle sanzioni riscosse per chi segnala violazioni e la possibilità, per alcune persone danneggiate da strumenti di IA di cui sono state aggirate le protezioni, di intentare una causa. Sono proposte, non leggi già approvate, e il Consiglio intende esaminarle in un’audizione il 5 ottobre.

Verifiche esterne e un interruttore per fermare il sistema

La misura più ampia, Introduction 2602, vieterebbe alle imprese di commercializzare, offrire in vendita o impiegare un sistema di IA a New York senza una verifica da parte di soggetti terzi. I verificatori esaminerebbero la qualità dei dati, i bias, i risultati delle decisioni, la privacy e la sicurezza, oltre a eventuali ulteriori requisiti stabiliti dall’Office of Cyber Command della città. Dovrebbero inoltre dichiarare eventuali conflitti di interesse relativi al sistema.

La stessa proposta richiede un controllo che consenta a una persona di arrestare ciascun sistema interessato, e affida al verificatore il compito di confermarne l’esistenza. Imprese e verificatori potrebbero essere soggetti, ciascuno, a una sanzione di 25.000 dollari per ogni caso in cui un sistema sia commercializzato, offerto in vendita o impiegato senza verifica, o in cui la verifica sia stata falsificata. La proposta attribuisce la responsabilità sia all’azienda che usa o vende un sistema sia al soggetto esterno che lo verifica.

Chi segnala violazioni potrebbe ricevere una quota delle sanzioni riscosse

Introduction 2605 consentirebbe alle persone che segnalano violazioni di ricevere una parte delle multe o delle sanzioni riscosse dalle aziende di IA che violano le leggi applicabili. Il Consiglio definisce la proposta un incentivo senza precedenti nel Paese, ma nel suo annuncio non specifica quale quota potrebbe ricevere chi segnala una violazione. Un’altra proposta di legge, Introduction 2604, chiarirebbe che i dipendenti comunali e gli appaltatori e subappaltatori interessati sono tutelati quando segnalano comportamenti legati all’IA che sanno, o ritengono ragionevolmente, costituiscano una minaccia per la sicurezza pubblica.

Un’ulteriore proposta darebbe alle persone il diritto di intentare una causa per danni prevedibili causati quando un soggetto terzo aggira le misure di sicurezza di un’azienda di IA. In base a Introduction 2600, chi agisce in giudizio dovrebbe dimostrare che il danno era prevedibile, che l’azienda non aveva adottato misure di protezione ragionevoli e che un soggetto terzo aveva sfruttato tale mancanza. La misura riguarda i danni associati a usi malevoli o al «jailbreaking», anziché rendere automaticamente responsabili le aziende ogni volta che un utente usa impropriamente uno strumento.

Per i contratti comunali, obbligo di segnalazione entro 24 ore

Introduction 2601 imporrebbe agli appaltatori comunali e agli enti che li incaricano di informare per iscritto l’Office of Cyber Command entro 24 ore da quando vengono a conoscenza di un incidente di sicurezza legato all’IA e relativo a un contratto soggetto alla norma. L’ufficio dovrebbe poi rendere pubblico entro 24 ore il verificarsi dell’incidente segnalato. Un’altra proposta imporrebbe alla città di predisporre piani per le interruzioni legate all’IA che riguardino i suoi sistemi informatici, le infrastrutture, le attività amministrative o la sicurezza pubblica.

Il pacchetto comprende anche misure sulle informazioni che le aziende di IA devono rendere note, sulla privacy e la trasparenza dei chatbot, sui deepfake e sugli effetti degli strumenti algoritmici sui lavoratori comunali. Una proposta imporrebbe agli enti di riferire sui posti di lavoro eliminati, sulle variazioni salariali legate a cambiamenti delle mansioni e sulla formazione resa necessaria dagli strumenti algoritmici. Nel loro insieme, le proposte di legge riguardano non solo gli sviluppatori di modelli, ma anche gli enti comunali, gli appaltatori, i verificatori e le imprese che impiegano l’IA.

L’audizione del 5 ottobre metterà alla prova la portata della proposta

Il Consiglio afferma che l’audizione della sua Committee of the Whole, il 5 ottobre, riunirà tutti i 51 membri per esaminare i rischi dell’IA. Menin ha chiesto ai vertici di Anthropic, OpenAI, Google, SpaceXAI e Meta di partecipare e afferma che, se necessario, il Consiglio potrebbe ricorrere al proprio potere di emettere mandati di comparizione. L’audizione sarà la prossima occasione di esame pubblico del pacchetto; la portata delle misure, la loro applicazione e i dettagli sui pagamenti a chi segnala violazioni restano questioni che i legislatori dovranno valutare.

«Possiamo e dobbiamo essere sia a favore dell’innovazione sia a favore della sicurezza.»

Julie Menin, presidente del Consiglio comunale di New York