L'IA di X "spoglia" le donne: così la Ue ha reagito e Musk ha fatto un passo indietro

Tra la fine del 2025 e l’inizio del 2026, un’ondata di richieste simili ha invaso Grok, il neonato chatbot di intelligenza artificiale integrato sul social network X: erano domande di utenti, almeno decine di migliaia, che chiedevano all’IA di “spogliare” o “mettere in bikini” celebrità o persone comuni, per ripubblicare le loro foto online. Nella larga maggioranza dei casi le vittime erano donne e, in qualche circostanza, anche minorenni. Per giorni Elon Musk, il proprietario del social network, ha ignorato il fenomeno o – meglio – si è preso gioco delle vittime: lo scorso 2 gennaio ha pubblicato su X una sua fotografia in bikini, generata con l’intelligenza artificiale, commentandola con una risata. Sono servite un’altra settimana, un’indagine francese e le reazioni dei leader europei (il primo ministro britannico Keir Starmer ha definito «disgustoso e intollerabile» il comportamento della piattaforma) per far fare un passo indietro all’ex braccio destro di Donald Trump e indurlo, ieri mattina, a disattivare la funzione di creazione di immagini su Grok per quasi tutti gli utenti: l’accesso è ancora consentito agli abbonati. Tradotto: per “spogliare” basta pagare.

La sensazione degli utenti è che l’ondata di deepfake a sfondo pornografico avesse raggiunto quasi ogni account della piattaforma. A misurare il fenomeno sono stati i ricercatori di Ai Forensics, organizzazione no profit con sede a Parigi, che hanno analizzato 20mila immagini generate da Grok – e pubblicate su X – dal 25 dicembre 2025 al 1° gennaio 2026. Il risultato ha rivelato che le impressioni degli utenti erano corrette. Oltre una immagine sue due, tra quelle generate dall’IA, aveva come soggetto persone in abiti succinti. Tra queste, l’81% erano donne e il 2% (quindi circa 400 immagini) minorenni. In alcuni casi, erano ritratti soggetti sotto ai 5 anni. Si tratta di contenuti, in ogni caso, generati a partire dalle fotografie reali che compongono il database di Grok e rimasti online per giorni a disposizione di chiunque.    

Il Paese che ha reagito più duramente all’ondata di violenza e alle irregolarità di Grok e X è la Francia. Dopo una serie di dichiarazioni politiche di vicinanza alle vittime, l’Eliseo ha agito per vie legali. Prima tre ministri francesi hanno chiesto la rimozione dei contenuti illeciti alla piattaforma Pharos, deputata alla tutela delle vittime di truffe online. Poi, la Procura di Parigi ha esteso a Grok l’indagine già aperta su X a luglio per il reato di «fotomontaggio a fini sessuali di una persona senza il suo consenso». La pena? Due anni di reclusione e 60mila euro di multa, che difficilmente impensieriranno il multimiliardario Musk. Parigi, però, ha reagito teneramente al limite imposto ieri da X alla generazione di contenuti pornografici: «È un primo passo da parte di Musk – ha commentato Roland Lescure, il ministro francese incaricato della Sovranità digitale –, ma la lotta contro le derive dell’IA deve proseguire». Più duro il Regno Unito che ha definito, tramite un portavoce di Keir Starmer, «un insulto» alle vittime la scelta di riservare le funzionalità di Grok ai soli abbonati. Ma, più delle dichiarazioni, a preoccupare Elon Musk è l’applicazione del Digital services act (Dsa) europeo, che regola anche il comportamento delle IA e può comminare multe fino al 6% del fatturato annuo globale delle big tech. In particolare, nel caso di Grok, a violare il regolamento europeo – e numerose leggi nazionali – sarebbe la diffusione di contenuto a carattere pedopornografico e a carattere pornografico con vittime riconoscibili che non hanno espresso il consenso. Francia e Germania hanno già sollecitato la Commissione ad applicare il Dsa contro Grok e lunedì il portavoce della Commissione Ue per il Digitale ha commentato i contenuti diffusi sulla piattaforma, sostenendo che «non sono piccanti, ma illegali». La minaccia di sanzioni ha raggiunto anche gli Stati Uniti, dove tre senatori democratici hanno chiesto ad Apple e Google di rimuovere X e Grok dagli app store, finché non rinunciano a ogni immagine sessualizzata. Al momento, sono solo di proposte.

Mentre l’Italia ha di fatto rimandato il bando imposto ai minorenni lo scorso novembre per l’accesso ai siti pornografici, il mercato del porno continua a crescere. E lo fa anche attraverso l’IA: anche per questo molte big tech delle reti neurali, che stimano investimenti e perdite miliardarie per i prossimi anni, faticano a rinunciare ai deepfake e alle immagini sessualizzate che hanno come vittime donne e minori. Secondo una ricerca di Global commerce media, il mercato del porno con IA oggi vale circa 2,5 miliardi di dollari ed è cresciuto del 27% dallo scorso anno. Non solo: dai chatbot gli utenti più giovani cercano anche una compagnia romantica. Secondo una indagine di Common sense media, oltre il 70% degli adolescenti ha usato almeno una volta l’IA come «compagnia virtuale», ovvero come partner o psicologo virtuale, e il 50% lo fa ripetutamente. Alcuni software, per arginare i rischi legati a questi impieghi, hanno iniziato a bloccare i prompt (gli “ordini” dati all’IA) in cui compaiono alcune parole chiave, come “nudo” o “porno”. Nella maggior parte dei casi, però, come dimostra il “caso Grok”, le big tech preferiscono attendere le sentenze delle magistrature e ottenere, nel frattempo, grandi profitti dalla generazione e diffusione di immagini pornografiche non consensuali.