The Pulse

OpenAI introduce limiti sulle informazioni sulle armi per gli adolescenti e promette un rapporto sulla sicurezza

OpenAI afferma che ChatGPT limiterà ulteriormente le informazioni sulle armi per gli adolescenti e alcuni dettagli sui precedenti attacchi di massa per tutti gli utenti. La società prevede inoltre di pubblicare il suo primo Community Safety

AI.info Team · Scritto con l’IA · verificato · 2026-10-30

OpenAI amplia le restrizioni mentre un organismo di vigilanza mette in dubbio le protezioni

OpenAI afferma che renderà più rigide le regole di ChatGPT sulle informazioni relative alle armi e alla violenza, mentre Common Sense Media ha esortato la società a tenere gli adolescenti lontani dal chatbot finché le sue protezioni non funzioneranno in modo più affidabile. Queste due posizioni fanno da cornice all’annuncio di OpenAI del 30 ottobre: nuovi limiti per gli utenti adolescenti, risposte più rigorose sui precedenti attacchi di massa per tutti e la promessa di pubblicare un resoconto periodico del proprio lavoro per la sicurezza della comunità.

L’annuncio non include il rapporto promesso. OpenAI afferma che il suo primo Community Safety Report arriverà all’inizio del 2027 e riguarderà la seconda metà del 2026. La società prevede di aggiornarlo ogni sei mesi.

I nuovi limiti riguardano armi e attacchi passati

OpenAI afferma che ChatGPT fornirà meno dettagli sui precedenti attacchi di massa e sulle persone che li hanno compiuti, anche quando tali informazioni sono disponibili altrove online. Le restrizioni riguarderanno le ricostruzioni degli attacchi, compresi i dettagli sulle armi e sull’equipaggiamento e su come gli aggressori se li siano procurati, nonché i confronti sull’entità dei danni che potrebbero accrescere la notorietà di un aggressore. La società afferma che gli utenti potranno comunque porre domande sulle vittime, sull’impatto sulla comunità, sui segnali d’allarme e sulla prevenzione della violenza.

Per gli adolescenti, il cambiamento va oltre il rifiuto di aiutarli a pianificare atti di violenza o a trovare armi. OpenAI afferma che ChatGPT limiterà anche le informazioni pratiche su armi e sistemi di sicurezza che potrebbero essere usate impropriamente, anche quando una domanda appare innocua e non vi sono segnali di intenti violenti. La società afferma che gli adolescenti potranno comunque usare il servizio per cercare sostegno, mettersi in contatto con un adulto di fiducia e contribuire a prevenire la violenza o a ridurne l’escalation.

OpenAI descrive interventi più tempestivi

OpenAI afferma inoltre di stare sviluppando un sistema in grado di interrompere una conversazione quando rileva che un utente è ossessionato dalla violenza o dall’idea di fare gravemente del male a un’altra persona. Se ChatGPT interrompe più conversazioni per questo motivo, la società può sospendere temporaneamente l’account. OpenAI afferma di lavorare a questi interventi con esperti di salute mentale e prevenzione della violenza, ma precisa che il lavoro è ancora in corso.

La società afferma di aver effettuato più di 200 segnalazioni alle forze dell’ordine nel terzo trimestre del 2026 relative a minacce imminenti di violenza. Afferma inoltre di stare rafforzando il proprio sistema di stima dell’età, che valuta segnali come i modelli di comportamento e può trasferire un utente identificato come minore di 18 anni all’esperienza per adolescenti. Gli adulti assegnati per errore a tale esperienza possono verificare la propria età tramite Persona, partner di OpenAI per la verifica dell’età.

Il rapporto promesso arriva dopo le critiche esterne

OpenAI afferma che il suo futuro rapporto spiegherà come addestra i sistemi a rilevare, esaminare e affrontare i problemi di sicurezza della comunità. La società prevede di includere esempi anonimizzati, dati pertinenti, nuove misure di mitigazione e modifiche alle politiche, con particolare attenzione alla prevenzione della violenza e all’efficacia delle protezioni. «Pubblicheremo il nostro primo rapporto all’inizio del 2027, relativo alla seconda metà del 2026, con aggiornamenti ogni sei mesi da quel momento in poi», afferma OpenAI nel suo annuncio.

L’impegno arriva dopo una dura valutazione dello Youth AI Safety Institute di Common Sense Media, che a ottobre ha affermato che ChatGPT for Teens presentava un «rischio inaccettabile» per i minori. Il gruppo ha dichiarato di aver testato più di 4000 prompt su account registrati a utenti tra i 13 e i 17 anni. Nei test con account appena creati e collegati ai genitori, ha affermato, le conversazioni sull’autolesionismo e sui disturbi del comportamento alimentare non hanno generato alcun avviso ai genitori, e i suoi valutatori hanno rilevato che il chatbot ha omesso più di una segnalazione di crisi su quattro tra quelle che ritenevano giustificate.

«Finché OpenAI non risolverà questo problema e non lo dimostrerà con test indipendenti, ChatGPT dovrebbe essere riservato agli adulti», ha dichiarato Tom Siegel, direttore esecutivo dell’Institute, nel comunicato del gruppo. Common Sense Media ha reso noto che l’Institute riceve finanziamenti dal settore, tra cui dalla OpenAI Foundation, e ha dichiarato di mantenere l’indipendenza editoriale sulle proprie valutazioni.

Il rilascio è previsto nelle prossime settimane

OpenAI afferma che le protezioni annunciate il 30 ottobre inizieranno a essere introdotte nelle prossime settimane. La società sta inoltre lavorando a notifiche per i genitori quando sospende l’account di un adolescente dopo ripetute conversazioni legate alla violenza; gli account collegati già esistenti possono ricevere avvisi per alcune gravi situazioni di autolesionismo e disturbi del comportamento alimentare, e OpenAI afferma di aver ampliato a luglio gli avvisi per includere gli account di adolescenti disattivati per violazioni delle politiche sulla violenza.

Le nuove restrizioni e il futuro rapporto affrontano questioni diverse: che cosa dovrebbe dire ChatGPT in conversazioni potenzialmente rischiose e come OpenAI descriverà il funzionamento delle proprie protezioni. La prima edizione del rapporto non è prevista prima dell’inizio del 2027, quindi il primo resoconto pubblico arriverà dopo l’avvio del rilascio.