The Pulse
Apple inasprisce le regole per le app di nudificazione con IA e le app che cambiano funzionalità dopo l’approvazione
Il 16 ottobre Apple ha aggiornato le linee guida per la revisione delle app, imponendo esplicitamente alle app di prevenire la diffusione e rimuovere le immagini intime non consensuali, comprese quelle generate con l’IA. Una nuova regola vi
AI.info Team · Scritto con l’IA ·
Apple: il divieto esisteva già, la regola sull’IA è nuova
Apple afferma che le app di nudificazione erano già vietate sull’App Store. L’aggiornamento del 16 ottobre rende esplicito un punto diverso: le app che consentono agli utenti di creare o condividere contenuti devono prevenire attivamente la diffusione e rimuovere le immagini intime non consensuali, comprese quelle generate con strumenti di IA. La modifica colma una lacuna tra il divieto di lunga data sul materiale pornografico e un obbligo di moderazione più chiaro per i servizi in cui gli utenti creano o condividono contenuti.
Apple descrive così il requisito aggiornato nel suo annuncio:
Gli obblighi di moderazione dei contenuti comprendono ora esplicitamente le immagini intime non consensuali, comprese quelle generate con strumenti di IA, tra i contenuti che le app devono prevenire attivamente e rimuovere dalle proprie piattaforme.
Apple
La norma si applica alle app che consentono alle persone di creare, generare, caricare, condividere o contribuire in altro modo ai contenuti. La linea guida 1.2 aggiornata di Apple stabilisce che queste app devono filtrare il materiale inappropriato, offrire un modo per segnalare i contenuti offensivi, consentire agli utenti di bloccare gli account che commettono abusi e pubblicare informazioni di contatto. Gli sviluppatori che non prevedono misure di tutela o non intervengono sulle violazioni dopo aver ricevuto una segnalazione possono essere ritenuti in violazione del Developer Code of Conduct di Apple.
La regola 2.5.19 prende di mira le funzionalità nascoste ai revisori
La seconda modifica riguarda le app che superano la revisione presentandosi in un modo e rivelano in seguito funzionalità dannose. Apple definisce questa tattica «esca e sostituzione»: durante la revisione, un’app presenta in modo ingannevole il proprio scopo e, dopo l’approvazione, attiva funzionalità come la nudificazione. Secondo l’azienda, le regole esistenti vietavano già le funzionalità nascoste o non documentate, ma l’aggiornamento esplicita il divieto e le sue conseguenze in una nuova sezione.
La linea guida 2.5.19 vieta le funzionalità nascoste, inattive o non documentate e stabilisce che le funzioni di un’app devono essere chiare sia agli utenti sia ad App Review. Apple indica espressamente l’offuscamento del codice e altri tentativi di nascondere funzionalità nel file binario di un’app come motivi per rimuovere l’app e chiudere l’account dello sviluppatore. L’annuncio afferma inoltre che le app che presentano in modo ingannevole il proprio scopo durante la revisione e cambiano dopo l’approvazione possono essere escluse sia dall’App Store sia dall’Apple Developer Program.
La distinzione è importante: Apple non presenta l’aggiornamento come un nuovo divieto generalizzato di tutte le app di modifica delle immagini che potrebbero essere usate impropriamente. Sta rendendo più stringenti i requisiti scritti sulla moderazione delle immagini intime e più esplicite le conseguenze per gli sviluppatori che nascondono ciò che fanno le loro app.
Apple amplia le conseguenze nelle sue norme legali
Apple ha anche aggiornato la sezione 5 delle sue linee guida legali, stabilendo che le app ritenute agevolare la tratta di esseri umani o lo sfruttamento dei minori, compreso il materiale raffigurante abusi sessuali su minori, saranno rimosse dall’App Store e bloccate dalla distribuzione alternativa. La disposizione riguarda queste categorie di sfruttamento; l’annuncio di Apple non afferma che ogni violazione relativa alle immagini non consensuali comporti automaticamente lo stesso blocco della distribuzione alternativa.
L’aggiornamento arriva mentre Apple descrive l’occultamento delle funzionalità come un problema di applicazione delle regole, non soltanto di descrizioni inadeguate delle app. L’azienda afferma che le funzionalità dannose possono restare inattive finché un’app non supera la revisione e che alcune violazioni coinvolgono operazioni fraudolente coordinate. Aggiunge che continuerà a modificare i propri strumenti e processi di revisione per individuare queste condotte.
Apple cita le rimozioni, non una nuova misura di controllo
Per dare un’idea della portata delle attività di controllo già in corso, Apple afferma di aver impedito lo scorso anno a più di 150.000 app con problemi di sicurezza di raggiungere i clienti e di aver chiuso più di 193.000 account di sviluppatori per frodi e abusi. L’azienda non ha specificato quanti di questi casi riguardassero immagini non consensuali, funzionalità nascoste o app che cambiavano dopo l’approvazione. Queste cifre descrivono quindi l’attività più ampia di Apple in materia di sicurezza e contrasto alle frodi, non i risultati di questo specifico aggiornamento delle regole.
Il cambiamento immediato riguarda le regole che gli sviluppatori devono rispettare: le app per creare e condividere contenuti devono affrontare il problema delle immagini intime non consensuali, mentre quelle che nascondono funzionalità non documentate o le attivano dopo la revisione rischiano la rimozione dall’App Store e la chiusura dell’account dello sviluppatore.