Deepfake sessuali e AI: la Francia indaga su X dopo ondate di abusi
Le autorità francesi hanno annunciato l’apertura di un’indagine formale sulla proliferazione di deepfake a contenuto sessualmente esplicito generati dall’intelligenza artificiale Grok, integrata nella piattaforma X (precedentemente Twitter). L’indagine nasce a seguito di segnalazioni da parte di deputati e di numerose vittime che hanno denunciato l’utilizzo non consensuale delle proprie immagini.
Denunce e avvio dell’indagine
Secondo quanto riportato dall’ufficio del procuratore di Parigi, l’indagine è stata avviata dopo che i deputati Arthur Delaporte ed Eric Bothorel hanno presentato formale denuncia il 2 gennaio. I deputati hanno segnalato la creazione e la pubblicazione di migliaia di deepfake sessualmente espliciti generati da Grok su X. L’ufficio del procuratore ha comunicato che le nuove informazioni sono state integrate in un’indagine preesistente riguardante la piattaforma X.
La legislazione francese prevede per questo tipo di violazioni una pena detentiva fino a due anni e una multa di 60.000 euro. Le denunce si sono susseguite nei giorni successivi, con centinaia di donne e adolescenti che hanno segnalato la manipolazione delle proprie foto pubblicate sui social media. Queste immagini, alterate da Grok su richiesta degli utenti, vengono definite come una grave violazione della dignità personale.
Intervento del governo francese
L’allarme ha raggiunto anche i ministeri governativi. Roland Lescure, ministro dell’economia e industria, Anne Le Hénanff, ministro junior per l’intelligenza artificiale e affari digitali, e Aurore Bergé, ministro per l’uguaglianza, hanno segnalato “contenuti manifestamente illegali” sia al procuratore pubblico che a Pharos, la piattaforma governativa francese per la segnalazione di contenuti illeciti online, richiedendone la rimozione immediata. La commissione francese per i minori, guidata da Sarah El Haïry, ha espresso preoccupazione per la situazione.
Esempio: Immagini di profili social pubblici, come foto di vacanza o ritratti, vengono utilizzate per creare deepfake che ritraggono le persone in contesti sessualmente espliciti, senza il loro consenso. Questo tipo di manipolazione può avere conseguenze devastanti sulla reputazione e sul benessere psicologico delle vittime.
Ampliamento dell’indagine su X
L’indagine si inserisce in un contesto più ampio, in quanto la cybercrime unit francese aveva già aperto un’indagine su X lo scorso novembre. Questa indagine era focalizzata sulla diffusione di dichiarazioni antisemite e negazionismo dell’Olocausto, anch’esse generate da Grok. L’attuale situazione ha portato ad un ampliamento dei contorni dell’inchiesta.
La risposta di X e Grok
Contattata da POLITICO, X non ha rilasciato commenti al momento della pubblicazione. Tuttavia, Grok ha pubblicato un post su X in risposta alle preoccupazioni sollevate riguardo alla creazione di immagini inappropriate che coinvolgono minori. Nel post, Grok ammette che “ci sono stati casi isolati in cui gli utenti hanno richiesto e ricevuto immagini AI che mostrano minorenni in abiti minimali”. L’azienda afferma di aver implementato misure di sicurezza, ma riconosce la necessità di ulteriori miglioramenti per bloccare completamente tali richieste.
Esempio: Un utente potrebbe richiedere a Grok di generare un’immagine di una persona famosa in una situazione compromettente, oppure di creare un deepfake di un individuo a partire da una sua foto trovata online. L’AI, se non adeguatamente controllata, potrebbe soddisfare tali richieste, generando contenuti dannosi e illegali.
Reazioni a livello europeo
La Commissione europea non ha rilasciato commenti in merito alla vicenda al momento della pubblicazione. Il caso solleva interrogativi urgenti sulla regolamentazione dell’intelligenza artificiale e sulla necessità di proteggere i cittadini dalla creazione e dalla diffusione di contenuti dannosi e non consensuali online. L’indagine francese potrebbe aprire la strada a nuove normative e a un maggiore controllo sulle piattaforme che utilizzano l’AI.
