Porno deepfake con Taylor Swift. È l’anteprima del mondo IA

Sta facendo molto discutere quanto è avvenuto negli ultimi giorni sulla piattaforma X, l’ex Twitter, dove sono stati pubblicati numerosi video e immagini sessualmente espliciti e pornografici creati tramite software di intelligenza artificiale con protagonista la popstar Taylor Swift.

Con i miglioramenti dell’intelligenza artificiale è sempre più facile creare deepfake, video falsi che però sembrano estremamente reali, con incolpevoli protagonisti personalità note o meno note. Il fenomeno è arrivato fino alle nostre latitudini, tanto che l’immagine Mara Venier era stata utilizzata, ovviamente senza il consenso della conduttrice, per promuovere una truffa. Secondo quanto riferito dai media statunitensi, i deepfake con protagonista Taylor Swift sarebbero stati diffusi da un gruppo Telegram sul quale gli utenti condividono foto esplicite generate con l’intelligenza artificiale, un fenomeno che negli Stati Uniti è in crescita, tanto che la deputata democratica Joe Morelle ha proposto di equiparare la diffusione di tali immagini a un crimine federale.

Mentre le immagini generate con l’IA si diffondevano, fan e sostenitori della popstar, persona dell’anno del 2023 per il ‘Time’, nonché artista più ascoltata dello scorso anno, sono corsi in suo aiuto, inondando X con foto e video principalmente trattati da concerti della cantante con la scritta “Taylor Swift AI”. Di fatto hanno ingannato l’algoritmo della piattaforma, poiché chiunque cercasse i deepfake si è ritrovato le numerose immagini e i video postati dai fan di Swift in sua difesa. È evidente, però, che è necessario arginare il fenomeno. Anche perché non tutti, anzi nessuno, al mondo hanno il seguito, a livello numerico ed ‘emotivo’, che ha Taylor Swift. I cui contenuti deepfake, creati artificialmente, senza consenso, sono stati visti da oltre 50 milioni di utenti prima che fossero rimossi. “Continuiamo a monitorare le nostre piattaforme per questo tipo di contenuto che viola la legge e a prendere le misure appropriate quando necessario”, è stato il laconico commento di X, il cui proprietario, Elon Musk, ha allentato le maglie della moderazione, anche per far fronte all’emorragia di utenti che hanno abbandonato il social dal suo arrivo, riducendo gli interventi su fake news e disinformazione e, anzi, bloccando account, giornalisti e siti a lui sgraditi.

Arrivati poco più di cinque anni fa, i deepfake sono stati utilizzati sin da subito per creare immagini e video pornografici con personaggi più o meno famosi. Se inizialmente i creatori dei deepfake si limitavano a ‘incollare’ il volto della vittima sul corpo dei protagonisti di video porno, con lo sviluppo dell’intelligenza artificiale generativa è possibile manipolare foto e creare video con protagoniste vittime incolpevoli ed ignare a un livello senza precedenti, tanto da far sembrare i falsi più che reali.

La ‘questione deepfake’ ha assunto tanta rilevanza da essere approdata alla Casa Bianca. E la portavoce del presidente statunitense Joe Biden, Karine Jean-Pierre, a domanda dei giornalisti, ha riferito c’è preoccupazione per la “circolazione di immagini come quelle appena citate. Immagini false, per essere più precisi. Mentre le imprese di social media prendono le proprie decisioni indipendenti sulla gestione dei contenuti, crediamo invece debbano avere un ruolo importante nel far rispettare le regole, in modo da prevenire la diffusione di informazioni false, e di finte immagini intime, non autorizzate di persone reali”. La portavoce ha aggiunto: “Troppo spesso sappiamo che l’applicazione di queste tecnologie senza controllo ha un impatto sproporzionato sulle donne e, purtroppo, anche sulle ragazze, tra gli obiettivi principali delle molestie online e anche degli abusi. Il presidente è impegnato, come sapete, a garantire si riesca a frenare il rischio di IA degenerativa”.

Con il miglioramento delle tecnologie di intelligenza artificiale, è sempre più facile creare deepfake, che appaiono sempre più realistici, tanto da sembrare veri. Spesso si tratta di contenuti pornografici, con protagoniste anche persone non necessariamente famose o note, che vedono la loro immagine utilizzata senza il loro consenso. La questione si lega però anche al tema della disinformazione, allorché delle false fotografie di Donald Trump arrestato dalla polizia di Manhattan fecero il giro del Web lo scorso anno, provocando tensioni e anche disordini. Nei giorni scorsi, ha fatto molto scalpore una telefonata deepfake arrivata a migliaia di elettori in cui si sentiva la ‘falsa voce’ del presidente Biden invitare a non votare per lui e il Partito democratico statunitense.

Affrontare la ‘questione deepfake’, e più in generale quella degli effetti dell’intelligenza artificiale, che è destinata a cambiare per sempre il mondo, è necessario, per tutelare migliaia di persone e, probabilmente, anche la democrazia. Perché questo è davvero solo l’inizio.