Vai al contenuto
AI.info

The Pulse

EFF propone norme sulla responsabilità e sulla sicurezza per i test dell’IA

La Electronic Frontier Foundation vuole che i legislatori impongano pratiche di cybersicurezza consolidate durante i test dei sistemi di IA. Il suo quadro normativo propone inoltre standard federali, responsabilità civile e l’applicazione delle norme da parte delle autorità statali e federali.

EFF propone norme sulla responsabilità e sulla sicurezza per i test dell’IA

Gli sviluppatori di IA dovrebbero essere soggetti a pratiche obbligatorie di cybersicurezza e a una possibile responsabilità civile quando i test provocano l’accesso non autorizzato a sistemi esterni, secondo un quadro normativo proposto dalla Electronic Frontier Foundation. L’organizzazione ha illustrato le proprie raccomandazioni in un post del 16 novembre, sostenendo che i legislatori dovrebbero basarsi su pratiche di sicurezza consolidate anziché inventare protocolli del tutto nuovi.

Il documento sul quadro normativo è stato pubblicato il 12 novembre. Le proposte riguardano requisiti di sicurezza, standard federali, responsabilità e applicazione delle norme; sono raccomandazioni per una legge, non norme già in vigore.

Le pratiche esistenti come punto di partenza

L’organizzazione sostiene che precauzioni consolidate sarebbero bastate a prevenire l’incidente OpenAI–Hugging Face e altri simili. Secondo EFF, gli sviluppatori di IA non hanno rilevato la maggior parte degli incidenti più recenti fino a molto tempo dopo che si erano verificati, perché durante i test hanno monitorato i sistemi in modo inadeguato.

Secondo l’organizzazione, gli incidenti hanno comportato violazioni di numerosi siti web di terze parti, tra cui la piattaforma per la condivisione della ricerca sull’IA Hugging Face e il sito web del sistema sanitario australiano. Il gruppo sostiene che gli sviluppatori possano intervenire durante lo sviluppo e i test applicando precauzioni consolidate.

La legislazione proposta imporrebbe pratiche come un sandboxing robusto e l’isolamento della rete, l’accesso con privilegi minimi, procedure efficaci di registrazione e monitoraggio e chiare procedure di risposta agli incidenti. I requisiti proposti si applicherebbero quando gli sviluppatori testano sistemi di IA.

Standard e consultazione

Il quadro normativo chiede al Congresso di incaricare un’agenzia federale esistente, come il National Institute of Standards and Technology, di adottare standard di sicurezza per lo sviluppo e i test dei sistemi di IA generativa prima della loro messa in produzione. L’agenzia li aggiornerebbe ogni due anni, o prima se necessario a causa di incidenti di sicurezza segnalati o di importanti progressi tecnologici.

Il processo proposto coinvolgerebbe ricercatori accademici e di organizzazioni non profit nel campo dell’IA, organizzazioni per le libertà civili e sviluppatori commerciali di IA. Gli standard sarebbero adottati attraverso una procedura formale di regolamentazione dell’agenzia, con pubblicazione di avvisi e possibilità di presentare osservazioni.

EFF vuole inoltre che la consultazione valuti i potenziali effetti negativi sulla concorrenza, con l’obiettivo di evitare standard che di fatto escludano potenziali concorrenti. L’organizzazione afferma che le pratiche volontarie pubblicate di recente da NIST, NSA e CISA per gestire gli incidenti di sicurezza durante l’addestramento e la valutazione degli agenti di IA potrebbero contribuire al lavoro, ma non sostituiscono standard elaborati attraverso il processo pubblico proposto.

Responsabilità e applicazione delle norme

EFF propone la responsabilità civile quando lo sviluppo o i test di IA condotti in condizioni che non rispettano gli standard adottati provocano l’accesso non autorizzato al sistema di una terza parte. La proposta prevede un’eccezione se l’azienda dimostra di aver agito ragionevolmente, date le circostanze, per impedire tale accesso.

In base al quadro normativo, sia le autorità federali sia quelle statali potrebbero chiamare gli sviluppatori a rispondere del mancato rispetto degli standard minimi. L’organizzazione raccomanda inoltre indagini indipendenti e la notifica alle parti interessate quando un incidente di sicurezza comporta l’accesso non autorizzato al sistema informatico di una terza parte.

Il quadro normativo chiede inoltre di prevedere un diritto di azione privata adeguatamente circoscritto. Prima di introdurre nuove norme, EFF afferma che i legislatori dovrebbero considerare le tutele giuridiche esistenti, comprese le azioni per negligenza e colpa grave, l’illecita interferenza con beni mobili, la Sezione 1201 del Digital Millennium Copyright Act e le leggi sull’accesso abusivo ai sistemi informatici e le disposizioni statali analoghe.

Fonti

  1. Electronic Frontier Foundation
  2. Electronic Frontier Foundation

Notizie correlate

Esplora

Altri articoli