Il City Attorney di San Francisco ha inviato lettere di diffida formale ad Apple e Google, ordinando la rimozione immediata di 13 applicazioni che sfruttano l’intelligenza artificiale per generare immagini di nudo non consensuali. La richiesta, accompagnata dalla minaccia di azioni civili, punta a stroncare un giro d’affari che — secondo l’accusa — ha fruttato alle due aziende milioni di dollari in commissioni, mentre le vittime, in gran parte donne e ragazze, subivano umiliazioni, ricatti e danni psicologici.
Cosa chiede esattamente l’ordine di San Francisco
Le lettere di cessazione e desistenza impongono a Apple di eliminare 8 app dall’App Store e a Google di rimuoverne 5 dal Play Store. Entrambe le società devono interrompere ogni rapporto commerciale con gli sviluppatori e smettere di incassare commissioni sugli acquisti in-app legati a questi strumenti.
David Chiu, il city attorney, accusa i colossi tech di essere stati «al corrente» del problema per quasi un anno, senza intervenire in modo adeguato. Già a gennaio e aprile 2026, il Tech Transparency Project aveva segnalato la presenza di decine di app in grado di creare deepfake pornografici non consensuali, definendo Apple e Google «partecipanti chiave nella diffusione di strumenti IA che trasformano persone reali in immagini sessualizzate». Nonostante gli avvertimenti, le app hanno continuato a essere disponibili. Una di quelle incriminate, che pubblicizzava stili come “bikini queen curvy” e “cinematic intimacy”, aveva superato 1 milione di download.
Alle due aziende sono concessi 28 giorni per rispondere. In caso contrario, la città di San Francisco potrebbe ricorrere a sanzioni civili in base alla legge californiana, che dal 2025 consente alle vittime di perseguire anche i facilitatori terzi di materiale intimo non consensuale.
Google sospende le app, Apple resta in silenzio
La reazione immediata delle due piattaforme è stata diversa. Google, attraverso il portavoce Dan Jackson, ha fatto sapere di aver già sospeso le cinque app indicate e di aver rimosso «centinaia di app dannose» limitando i termini di ricerca come “nudify” sul Play Store. «Google Play non consente app con contenuti sessuali e adottiamo costantemente misure proattive per individuare e rimuovere quei contenuti», ha dichiarato Jackson. «Quando ci vengono segnalate violazioni, indaghiamo e agiamo rapidamente». La mossa, pur tempestiva, arriva solo dopo l’intervento del city attorney.
Apple, invece, non ha rilasciato commenti ufficiali. In passato l’azienda aveva dichiarato a 9to5Mac e AppleInsider che le app “nudify” violano le linee guida dell’App Store e che il team di revisione le rimuove non appena vengono scoperte, anche grazie alle segnalazioni degli utenti. A giugno 2026, Apple aveva inasprite le regole sulla responsabilità degli sviluppatori riguardo ai contenuti pornografici. Eppure, il fatto che otto app siano sopravvissute ai controlli dimostra quanto i sistemi di screening possano essere aggirati: molte di queste app si presentano come innocui strumenti di face‑swapping, nascondendo le funzioni di nudificazione.
La pressione sugli store non riguarda solo le app dedicate. Il caso di Grok, il chatbot di xAI finito al centro di uno scandalo per la generazione di materiale pedopornografico, ha sollevato un’ulteriore questione: ad aprile Apple aveva minacciato di rimuovere l’app, ma Grok è ancora presente nell’App Store. Le lettere di Chiu non chiedono espressamente la cancellazione di Grok, ma auspicano un rafforzamento generale delle procedure di controllo.
Un fenomeno sommerso: il 70% delle app face‑swap testate consente la nudificazione
La difficoltà di arginare il fenomeno è fotografata da uno studio pubblicato a maggio 2026 da un gruppo di ricercatori. Su 420 app di face‑swapping generico individuate, ne sono state testate 155: nel 70% dei casi — circa 109 applicazioni — era possibile generare immagini di nudo non consensuali. Un dato che conferma come il confine tra un’app legittima e uno strumento di abuso sia diventato sottilissimo.
«Queste immagini vengono usate per bullizzare, umiliare e minacciare donne e ragazze», ha detto Chiu. «L’industria ha un impatto orribile sulla reputazione, sulla salute mentale, sulla perdita di autonomia. Ci sono state vittime che hanno avuto pensieri suicidi». Le parole del city attorney riecheggiano l’urgenza di un intervento che vada oltre la semplice rimozione reattiva.
Apple e Google hanno entrambe gli strumenti per rilevare comportamenti malevoli, ma finora la strategia è stata per lo più reattiva. Le app segnalate dal Tech Transparency Project ad aprile erano ancora attive fino all’intervento dell’autorità, e persino dopo le prime rimozioni, nuove versioni potevano ricomparire con nomi diversi. La legge californiana del 2025, che criminalizza chi «consapevolmente facilita» o «incautamente favorisce» la creazione di deepfake pornografici, alza ora la posta in gioco: la responsabilità non è più solo degli sviluppatori, ma anche di chi ospita e monetizza le app.
L’analisi: una responsabilità che non ammette più ritardi
Il dato del 70% di app testate capaci di nudificare (circa 109 su 155) indica un problema strutturale: i meccanismi di revisione, per quanto sofisticati, vengono aggirati su larga scala. Le app si mascherano da strumenti innocui, restano in catalogo per mesi e generano entrate grazie alle commissioni sugli acquisti in‑app. Mentre Google ha reagito solo dopo la diffida, il silenzio di Apple aggiunge un ulteriore livello di opacità.
Dal punto di vista operativo, la minaccia di azioni civili cambia lo scenario: non si tratta più di un generico appello alla responsabilità sociale, ma di un rischio legale concreto. Se le due aziende non dimostreranno di aver adottato sistemi di screening proattivi, potrebbero essere chiamate a rispondere in tribunale. Per gli utenti e per le potenziali vittime, il segnale è duplice: da un lato le piattaforme possono essere costrette a fare pulizia, dall’altro la fiducia nella sicurezza degli store ufficiali subisce un duro colpo.
L’ordine di San Francisco non è solo una diffida: è il campanello d’allarme che sancisce la fine della rimozione a spot. La legge californiana ora pretende sorveglianza attiva. E con 28 giorni di tempo, Apple e Google dovranno decidere se collaborare o affrontare le aule di tribunale.
