Deepfake sessuali, l’AI safety diventa un caso europeo
La diffusione degli strumenti di intelligenza artificiale generativa sta producendo un effetto collaterale sempre più difficile da contenere: la possibilità di trasformare fotografie normali in immagini sessualmente esplicite senza il consenso delle persone ritratte.
Nel Regno Unito il fenomeno riguarda ormai direttamente bambini e adolescenti. Report Remove, servizio gestito dall’Internet Watch Foundation (IWF) insieme alla charity NSPCC, ha ricevuto nei primi sei mesi del 2026 ben 420 segnalazioni da parte di minori convinti che immagini che li ritraevano fossero state falsificate o manipolate per assumere un contenuto esplicito.
Il numero ha già superato quello registrato nell’intero 2025, quando le segnalazioni erano state 397.
Il problema non riguarda soltanto i deepfake prodotti con sofisticati modelli generativi. A rendere il fenomeno più accessibile contribuiscono anche i cosiddetti servizi di “nudification”, applicazioni capaci di modificare fotografie di persone vestite producendo versioni artificialmente nude o sessualizzate.
Secondo l’IWF, la maggioranza delle immagini manipolate segnalate attraverso Report Remove nel 2025 e nel 2026 ha raggiunto un livello di gravità tale da rientrare nella categoria CSAM, Child Sexual Abuse Material.
Quando basta una fotografia pubblicata online
Il cambiamento tecnologico sta soprattutto abbassando la barriera d’ingresso. Dan Sexton, chief technology officer dell’Internet Watch Foundation, ha spiegato al Guardian che oggi un’immagine innocua di un bambino pubblicata online può essere utilizzata per creare materiale di abuso sessuale senza che il minore abbia alcuna possibilità concreta di impedire la manipolazione.
Il rischio si estende quindi a fotografie pubblicate sui social, sui siti delle scuole o in altri spazi pubblicamente accessibili.
Nel Regno Unito la National Crime Agency e la stessa IWF hanno già raccomandato a genitori e tutori di limitare la pubblicazione aperta delle immagini dei figli, preferendo account privati o gruppi circoscritti. Anche le scuole sono state invitate a rimuovere dai propri siti e profili social le fotografie che rendono gli studenti facilmente identificabili.
La ragione è anche criminale. In alcuni casi le immagini manipolate sono state utilizzate per episodi di sextortion: il materiale falso diventa uno strumento di ricatto con cui chiedere denaro oppure altre immagini esplicite alla vittima.
In Italia il Garante è già intervenuto sui servizi di “nudification”
Il problema non è confinato al Regno Unito. Anche in Italia le autorità hanno iniziato a intervenire direttamente contro servizi capaci di creare immagini intime artificiali.
Nell’ottobre 2025 il Garante per la protezione dei dati personali ha disposto una limitazione nei confronti di Clothoff, applicazione in grado di generare immagini di persone artificialmente prive di indumenti. Nel maggio 2026 l’Autorità è tornata sul tema, avvertendo che i servizi capaci di creare e condividere contenuti partendo da immagini o voci reali, fino a “spogliare” digitalmente una persona senza consenso, possono comportare gravi violazioni dei diritti fondamentali e della normativa sulla protezione dei dati.
Il Garante ha anche chiesto strumenti che consentano di interrompere più rapidamente l’accesso dall’Italia a piattaforme di questo tipo, proprio per limitare la diffusione virale dei materiali una volta pubblicati online.
Il parallelismo con il caso britannico è evidente: una fotografia non deve essere originariamente intima per produrre un danno. È sufficiente che possa essere acquisita, elaborata da un sistema AI e ricollocata online in un contesto falso.
L’Italia ha introdotto un reato specifico per i deepfake
Sul piano penale l’Italia dispone inoltre, dal 2025, di una norma specifica.
La legge n. 132 del 23 settembre 2025 sull’intelligenza artificiale ha introdotto nel codice penale l’articolo 612-quater, dedicato all'”illecita diffusione di contenuti generati o alterati con sistemi di intelligenza artificiale”.
La norma punisce con la reclusione da uno a cinque anni chi provoca un danno ingiusto a una persona diffondendo senza consenso immagini, video o voci falsificati o alterati tramite AI e idonei a ingannare sulla loro autenticità. Sono previste condizioni specifiche anche quando la persona coinvolta è incapace per età.
Il quadro italiano mostra quindi come il deepfake sia ormai uscito dal territorio della semplice manipolazione digitale per entrare in quello della responsabilità penale, della privacy e della sicurezza dei prodotti tecnologici.
Dal 2 agosto nuove regole europee per i contenuti AI
Per startup e aziende che sviluppano tecnologie generative entra in gioco anche l’AI Act europeo.
Dal 2 agosto 2026 sono operative nuove disposizioni sulla trasparenza dei sistemi AI. Per determinate categorie di contenuti artificialmente generati o manipolati sono previsti obblighi di marcatura e identificazione, mentre nel caso dei deepfake deve essere resa riconoscibile la natura artificiale del contenuto.
Per l’ecosistema startup il punto va oltre il semplice compliance check. Prodotti di image generation, editing fotografico e image-to-image devono ormai essere progettati considerando fin dall’inizio abuse prevention, content moderation, sistemi di detection, guardrail sugli input e controlli sugli output.
La trasparenza, peraltro, interviene soprattutto sul contenuto prodotto e distribuito. Il caso britannico mette in luce una questione precedente: impedire che determinati output vengano generati.
La sicurezza diventa parte del prodotto AI
È qui che la vicenda assume particolare rilevanza per startup, scaleup e investitori. Per anni le performance dei modelli generativi sono state valutate soprattutto in termini di qualità dell’output, velocità, costi di inference e capacità multimodali. La crescita degli utilizzi abusivi introduce un’altra metrica: quanto sia difficile utilizzare quel prodotto per danneggiare una persona reale.
Non è più soltanto un problema reputazionale. In Europa si sovrappongono tutela dei dati, responsabilità penali, obblighi di trasparenza e crescente attenzione delle autorità ai sistemi accessibili ai minori.
Per chi costruisce prodotti AI, il trust & safety tende quindi a spostarsi dalla fase di moderazione successiva alla pubblicazione alla progettazione stessa del servizio. Il caso dei deepfake sessuali mostra perché: quando un’immagine falsa è stata generata, condivisa e replicata online, la tecnologia deve ormai affrontare un danno che può essere molto più veloce dei sistemi utilizzati per rimuoverlo.
Fonte: The Guardian
