The Pulse
OpenAI riferisce di oltre 200 segnalazioni per violenza e rafforza le tutele per gli adolescenti
OpenAI afferma di aver effettuato oltre 200 segnalazioni alle forze dell’ordine per minacce imminenti di violenza nel terzo trimestre del 2026. La società ha anche annunciato limiti più severi sulle informazioni relative alle armi per gli a
AI.info Team · Scritto con l’IA · verificato ·
OpenAI afferma di aver effettuato oltre 200 segnalazioni alle forze dell’ordine per minacce imminenti di violenza nel terzo trimestre del 2026. Ha reso noto il dato il 30 ottobre, insieme a nuove restrizioni per gli adolescenti che usano ChatGPT e a modifiche al modo in cui il servizio gestisce le conversazioni sulla violenza. La società sostiene che le segnalazioni hanno contribuito a sventare piani violenti, ma il suo annuncio non fornisce una ripartizione dei casi, gli esiti delle segnalazioni né il numero di conversazioni esaminate.
«Abbiamo effettuato oltre 200 segnalazioni alle forze dell’ordine nel terzo trimestre del 2026».
OpenAI
OpenAI prevede il suo primo rapporto sulla sicurezza per l’inizio del 2027
La società afferma che il suo primo Community Safety Report riguarderà la seconda metà del 2026 e sarà pubblicato all’inizio del 2027, con aggiornamenti ogni sei mesi. Secondo OpenAI, il rapporto descriverà come i suoi sistemi individuano, esaminano e affrontano i problemi di sicurezza della comunità e includerà esempi anonimizzati, modifiche alle policy e dati sull’efficacia delle tutele.
Il rapporto previsto aggiungerebbe dettagli al numero di segnalazioni, che al momento dice poco su come OpenAI individui una minaccia credibile o su cosa accada dopo che ha contattato le autorità. L’annuncio non definisce quali casi siano da segnalare, non dice quanti abbiano portato a un intervento e non fornisce un confronto con i trimestri precedenti. OpenAI afferma di collaborare con esperti di salute mentale e del comportamento per valutare i casi difficili.
ChatGPT limiterà i dettagli sugli attacchi passati
OpenAI afferma di rendere più restrittive le risposte alle domande sui precedenti attacchi di massa, comprese le richieste di dettagli su armi e attrezzature, su come gli autori degli attacchi se le siano procurate e i confronti sull’entità dei danni. I nuovi limiti si applicano agli utenti di qualsiasi età, anche quando una domanda non sembra esprimere intenti violenti.
La società afferma che ChatGPT può ancora aiutare gli utenti a comprendere gli effetti degli attacchi sulle vittime e sulle comunità, riconoscere i segnali d’allarme e informarsi sulla prevenzione. La distinzione descritta da OpenAI è tra discutere di un evento e fornirne una ricostruzione dettagliata che potrebbe aiutare qualcuno a riprodurlo o ad accrescere la notorietà di chi ha compiuto l’attacco.
Restrizioni più ampie sulle armi per gli account degli adolescenti
Per gli utenti sotto i 18 anni, OpenAI prevede di limitare le informazioni pratiche su armi e sistemi di sicurezza che potrebbero essere usate impropriamente per facilitare la violenza, anche quando un prompt appare innocuo. La società afferma che ChatGPT for Teens continuerà a rispondere alle richieste volte a prevenire la violenza o a ridurre le tensioni, a cercare aiuto e a mettersi in contatto con un adulto di fiducia.
OpenAI afferma inoltre che il suo sistema di previsione dell’età continuerà a valutare nuovi segnali durante l’uso di ChatGPT e trasferirà all’esperienza per adolescenti gli utenti che stima abbiano meno di 18 anni. Gli adulti che vi vengono inseriti per errore possono confermare la propria età tramite Persona, partner di OpenAI per la verifica dell’età, e ottenere la rimozione delle tutele aggiuntive previste per gli adolescenti.
Una fissazione ricorrente per la violenza potrebbe portare alla chiusura di una chat
OpenAI afferma che ChatGPT potrà interrompere una conversazione quando rileva segnali che una persona è ossessionata dalla violenza o dall’idea di fare gravemente del male a un’altra persona. Se il servizio interrompe più chat per questo motivo, la società può sospendere temporaneamente l’account. Questi interventi sono descritti come funzionalità in arrivo, non come misure già operative su tutti gli account.
I genitori con account collegati ricevono già alcuni avvisi di sicurezza e OpenAI afferma di averli estesi a luglio agli account di adolescenti disattivati per aver violato le sue policy sulla violenza. La società sta lavorando a una notifica separata per i genitori, nel caso in cui sospenda l’account di un adolescente dopo ripetute discussioni legate alla violenza.
OpenAI afferma che le nuove tutele inizieranno a essere introdotte nelle prossime settimane. Il rapporto previsto potrebbe offrire al pubblico un modo più chiaro per valutare le segnalazioni di minacce e gli interventi della società; per ora, il dato comunicato è un conteggio delle segnalazioni, non una misura della frequenza con cui ChatGPT incontra minacce violente o del numero di casi risolti dalle autorità.