L’Unione Europea sta considerando misure più severe nel quadro dell’Artificial Intelligence Act (AI Act) per affrontare il recente caso legato alla generazione di deepfake sessualizzati non consensuali da parte dell’intelligenza artificiale Grok, integrata nella piattaforma X di Elon Musk. Di fronte allo scandalo esploso nei primi giorni del 2026, Bruxelles riflette su come includere esplicitamente fra i divieti le applicazioni AI che consentono di creare immagini intime o sessualizzate di persone senza consenso, con l’obiettivo di rafforzare la protezione di diritti fondamentali e sicurezza digitale.
Il caso Grok e l’indignazione globale
Nei primi giorni di gennaio 2026, l’AI chatbot Grok è finito al centro di una vasta polemica internazionale dopo che utenti hanno iniziato a utilizzare le sue capacità di editing e generazione di immagini per creare deepfake sessualmente espliciti che ritraggono persone reali, comprese donne e minori, in situazioni intime o degradanti. In un breve arco di tempo sono state generate milioni di immagini sessualizzate tramite questo strumento, con un impatto che ha sollevato allarme a livello istituzionale e giudiziario.
La diffusione di questi contenuti ha provocato critiche da autorità di regolamentazione, attivisti per i diritti digitali e politici, costringendo xAI e X a imporre restrizioni tecniche sull’uso delle funzionalità di Grok, pur senza eliminare del tutto la possibilità di generare immagini intime.
Perché l’AI Act potrebbe includere divieti specifici
L’Artificial Intelligence Act, entrato parzialmente in vigore nel 2025, è concepito per vietare o regolamentare quei sistemi di intelligenza artificiale che rappresentano un “rischio inaccettabile” per la sicurezza, i diritti fondamentali o la dignità degli individui. Attualmente nella normativa non compare una menzione esplicita dei deepfake sessualizzati non consensuali, il che ha aperto un vuoto normativo proprio alla luce del caso Grok.
Secondo fonti istituzionali, la Commissione Europea sta ora valutando se classificare la generazione o manipolazione non consensuale di immagini intime tramite AI come pratica vietata dall’AI Act. Questa modifica renderebbe esplicito il divieto di strumenti capaci di creare deepfake sessuali senza consenso e potrebbe rafforzare gli strumenti giuridici a disposizione dei regolatori per intervenire in modo preventivo.
La Vicepresidente della Commissione Europea con delega alla sovranità tecnologica, Henna Virkkunen, ha dichiarato che la Commissione sta esplorando varie opzioni, compreso un divieto esplicito di tali applicazioni AI qualora gli attuali strumenti normativi risultassero insufficienti a impedire abusi su vasta scala.
Divieto e strumenti normativi esistenti
L’AI Act attualmente proibisce già alcune pratiche considerate ad “altissimo rischio”, come l’uso di sistemi di riconoscimento facciale non autorizzati o la profilazione discriminatoria. Tuttavia, la generazione di deepfake sessuali non è tra le categorie vietate in modo esplicito, ma è soggetta a obblighi di trasparenza e mitigazione del rischio. L’assenza di un divieto diretto ha reso più difficile per le autorità europee agire rapidamente contro strumenti come Grok.
L’ipotesi in discussione è quella di aggiornare l’elenco dei divieti dell’AI Act per includere la creazione di immagini sessuali non consensuali, in modo da dare al legislatore e alle autorità di controllo un mandato chiaro per vietare o limitare tali tecnologie e punire chi le sviluppa o le mette a disposizione.
Reazioni politiche e istituzionali
Oltre alla Commissione Europea, anche parlamentari e gruppi di lavoro del Parlamento Europeo hanno chiesto un inasprimento delle norme sul digitale e sull’IA per prevenire abusi che violano la dignità umana e la privacy. Alcuni politici hanno sottolineato che la generazione di deepfake sessuali espliciti, specialmente quando coinvolge adulti e minori senza consenso, rappresenta una forma di violenza digitale che non può essere affrontata solo con strumenti reattivi come la rimozione dei contenuti dopo la pubblicazione.
Parallelamente, altri Stati membri dell’UE stanno esaminando impatti giuridici e strumenti di enforcement, mentre autorità di privacy e protezione dei dati si coordinano per determinare se e come i principi del GDPR possano essere applicati a questi casi.
Implicazioni future
Se la proposta di estendere i divieti dell’AI Act dovesse essere approvata, l’Unione Europea si troverebbe a definire un nuovo standard globale per la regolamentazione delle AI che generano contenuti digitali sensibili. Ciò potrebbe spingere altri Paesi o blocchi normativi a seguire un percorso simile, aumentando la pressione internazionale sulle piattaforme e sugli sviluppatori di intelligenza artificiale affinché adottino misure preventive integrate contro la produzione di deepfake sessuali e contenuti analoghi.
Fonte: ANSA
