L’industria dei deepfake pornografici, che si avvale delle più avanzate tecnologie di intelligenza artificiale, sta crescendo in modo esponenziale e coinvolge alcune delle più grandi aziende tecnologiche al mondo, tra cui Google, Microsoft, Amazon, CloudFlare e X.
Kaitlyn Siragusa, conosciuta anche come Amouranth, una figura celebre del web, ha recentemente raccontato come sia costantemente vittima di questa tendenza. Essendo un obiettivo frequente dei creatori di deepfake, il suo staff trova regolarmente nuovo materiale su Google. Vengono quindi presentati reclami a Google per la rimozione dei link e l’azienda interviene dopo aver compilato la modulistica necessaria.
Siragusa spiega che questo processo, che richiede tempo ed energie, non può essere eseguito quotidianamente per ogni singolo link rinvenuto dal suo staff. Tutto ciò accade perché giganti come Google non prendono adeguate contromisure per contrastare la diffusione di questo materiale.
I deepfake sono video manipolati mediante l’utilizzo di intelligenza artificiale per applicare il volto o le fattezze di una persona all’interno di un contenuto. Il problema di questa pratica è che viene utilizzata quasi istantaneamente per applicare i volti di personaggi celebri o di vittime inconsapevoli a video che raffigurano scene esplicite. Questa tecnica ha portato ad un aumento del traffico e dei guadagni dei siti del settore, ma allo stesso tempo ha causato danni emotivi, d’immagine e finanziari a molte vittime impotenti.
La creazione di deepfake pornografici non consensuali è in rapida crescita, con un aumento di nove volte rispetto al 2019 nel numero di video creati e distribuiti. Solo nell’ultimo maggio, circa 150.000 video sono comparsi su 30 dei più famosi siti del settore, con un totale di 3,8 miliardi di visualizzazioni.
Grandi aziende tecnologiche come Google, Microsoft, Amazon e X forniscono strumenti e piattaforme che agevolano la diffusione di deepfake pornografici. Tuttavia, c’è una crescente pressione pubblica per costringerle a limitare la diffusione di tali contenuti.
Bloomberg ha riportato che molti oppositori di questa tendenza e esperti legali sostengono che queste aziende dovrebbero assumersi la responsabilità dei contenuti generati, diffusi o proposti attraverso i loro prodotti, prendendo le misure adeguate per prevenire l’abuso dell’intelligenza artificiale a scopi pornografici e non diventando complici di questa pratica.
È stato evidenziato quanto sia importante la connessione dell’industria dei deepfake con i servizi delle grandi aziende tecnologiche. La decisione di opposizione di queste aziende potrebbe ridurre notevolmente la diffusione di questo materiale altamente dannoso, limitando il suo bacino di utenza.
Ad esempio, Google è il principale responsabile del traffico verso i siti deepfake più noti, mentre tra gli utenti di X circolano regolarmente contenuti deepfake, a causa delle poche restrizioni sui contenuti presenti sulla piattaforma sociale.
Inoltre, è stato notato che alcuni siti web di deepfake si affidano alle infrastrutture delle più grandi aziende del settore, come Cloudflare, che fornisce servizi di hosting a 13 dei primi 20 siti web deepfake, e Amazon e Microsoft GitHub, che offrono servizi di hosting indispensabili per questi siti.
Le persone intervistate da Bloomberg sperano che intensificando la pressione su queste aziende si possano ottenere risultati concreti dal punto di vista etico, indirizzando verso un contenimento iniziale di questo fenomeno.
Mentre la battaglia contro i deepfake pornografici e non consensuali continua, emerge la necessità di una maggiore regolamentazione da parte delle aziende riguardo ai contenuti prodotti tramite l’intelligenza artificiale. Le nuove tecnologie devono essere sviluppate con piena consapevolezza delle possibili implicazioni negative e devono essere adottate misure preventive costanti per proteggere le potenziali vittime di un uso improprio di queste tecniche.
Google e Microsoft accusate di complicità nella pornografia non consensuale (deepfake)
L’industria dei deepfake pornografici sta crescendo rapidamente grazie all’utilizzo di avanzati strumenti di intelligenza artificiale e alla partecipazione di grandi aziende tecnologiche come Google, Microsoft, Amazon, CloudFlare e X. Una figura famosa del web, Kaitlyn Siragusa (nota anche come Amouranth), ha recentemente denunciato di essere spesso vittima di questo tipo di manipolazione. Tuttavia, la rimozione di ogni singolo link richiede tempo ed energie e le grandi aziende come Google non stanno facendo abbastanza per contrastare la diffusione di tali materiali. I deepfake consistono in video manipolati con l’intelligenza artificiale per sovrapporre il volto di una persona a contenuti espliciti, spesso utilizzando personaggi famosi o vittime inconsapevoli. Questa pratica ha portato ad un aumento consistente del traffico e dei guadagni per i siti pornografici, ma ha anche causato danni emotivi, d’immagine e finanziari a molte vittime. C’è una crescente pressione pubblica sulle grandi aziende tecnologiche affinché limitino la diffusione di questi contenuti. Bloomberg ha riportato che molte persone e esperti legali ritengono che tali aziende dovrebbero assumersi la responsabilità dei contenuti generati dai loro prodotti e prendere misure per prevenire l’abuso dell’intelligenza artificiale a fini pornografici. Se queste aziende si opporranno alla creazione e alla diffusione dei deepfake, potranno ridurre significativamente la diffusione di questo materiale dannoso. Alcuni dei siti web di deepfake si basano sui servizi di hosting forniti da Cloudflare, Amazon e Microsoft GitHub. La regolamentazione delle IA e la protezione delle vittime di abuso di queste tecnologie devono essere prioritari.
