I contenuti sintetici, tuttavia, sono soltanto una parte del problema. La portata dirompente dell'IA comporta anche nuove opportunità di distribuzione automatizzata attraverso comportamenti inautentici coordinati; ciò rende l'inganno su scala industriale tramite bot accessibile a una platea più ampia di attori e consente a chi operava già in questo ambito di sfruttare al massimo le proprie notevoli competenze nella manipolazione di massa.

Aspetto fondamentale: mentre l'IA abbassava le barriere d'accesso, le aziende proprietarie dei social media più popolari hanno reso ancora più facile la proliferazione delle minacce all'integrità dell'informazione sulle proprie piattaforme. In un sistema in cui la visibilità dei contenuti generati dagli utenti è dettata da algoritmi orientati all'engagement, le Big Tech premiano costantemente e in modi diversi proprio la tipologia di contenuti che ha maggiori probabilità di rivelarsi falsa. Questo articolo offrirà una panoramica sulle minacce dell'IA all'integrità dell'informazione — come i deepfake su TikTok o le truffe ai danni dei consumatori su Meta — fornendo in conclusione una valutazione del reale impatto generato dalle organizzazioni della società civile (OSC) che cercano di contrastarle.

IA e monetizzazione: come TikTok finanzia gli attacchi all'integrità dell'informazione

Non tutti, ma molti di coloro che dedicano la propria vita a produrre e diffondere falsità online lo fanno per denaro. Questi "creator" si collocano ad uno dei vertici dell'economia dell'attenzione: producono contenuti talmente capaci di catturare l'attenzione, scandalosi e incredibili da essere spesso del tutto inventati. Più un contenuto genera engagement, più verrà premiato dagli altri due vertici del triangolo: gli utenti e le piattaforme.

In termini di fruizione da parte degli utenti, la disinformazione funziona come qualsiasi altro tipo di finzione coinvolgente: è sorprendente, entusiasmante, fa indignare. È proprio questo carattere intenzionalmente ingannevole a renderla pericolosa, poiché seduce facilmente il pubblico. L'IA è lo strumento perfetto nelle mani dei diffusori seriali di notizie false e sensazionalistiche, poiché sanno bene cosa funziona per attirare l'attenzione online; l'IA si limita a dare loro la capacità di creare i propri messaggi e di distribuirli in modo più rapido ed efficiente, con un livello di qualità tecnica che rende il materiale indistinguibile dai contenuti autentici.

Le piattaforme, dal canto loro, premiano qualsiasi contenuto caratterizzato da un alto livello di engagement, provvedendo a dargli ancora più visibilità. È ciò che va sotto il nome di "amplificazione algoritmica": più gli utenti interagiscono con un contenuto, più l'algoritmo tende a mostrarlo a un numero ancora maggiore di utenti. Perché? Perché la piattaforma ha un interesse commerciale a far sì che gli utenti trascorrano più tempo sul suo servizio. Ecco perché le piattaforme ricompensano gli utenti che producono esattamente quel tipo di contenuti.

Alcuni mesi fa, presso Fundación Maldita.es abbiamo iniziato a notare qualcosa di strano: video generati dall'IA ed estremamente realistici, raffiguranti proteste politiche, stavano spuntando nei feed di TikTok in tutto il mondo. La cosa ha stuzzicato la nostra curiosità e siamo arrivati a individuare un elenco di 550 account che avevano pubblicato più di 5.800 video riferiti a 18 paesi diversi. I video avevano generato più di 89 milioni di visualizzazioni, ma l'aspetto più interessante è emerso quando abbiamo parlato direttamente con alcune delle persone che li avevano realizzati.

Di certo non sembravano provare alcun rimorso all'idea di trarre in inganno il pubblico, ma sono state chiarissime su un punto ancora più importante: non avevano alcuna agenda politica. Il loro unico obiettivo era far raggiungere ai propri account (spesso gestiti in parallelo) la soglia magica dei 10.000 follower. Perché? Perché era il requisito necessario per accedere al programma di remunerazione per i creator di TikTok ("creator rewards"), attraverso il quale la piattaforma paga gli influencer. La disinformazione politica, in questo caso, era solo uno strumento. A forza di tentativi, avevano semplicemente scoperto che non c'era nulla che l'algoritmo di TikTok amplificasse di più. Le persone con cui abbiamo parlato avevano tentato altre strade: animali domestici, bambini e quant'altro. Tuttavia, nella rincorsa ai 10.000 follower, i contenuti politici falsi e a forte impatto emotivo si sono rivelati quelli più efficaci.

In sostanza, gli interessi finanziari di TikTok e quelli di questi utenti coincidono perfettamente. I contenuti a forte impatto emotivo o sorprendenti attirano senz'altro l'attenzione, e l'attenzione si traduce in denaro: per i creator, attraverso il programma di monetizzazione di TikTok; per TikTok, grazie a contenuti che spingono gli utenti a trascorrere più tempo sulla piattaforma, portandoli, ad esempio, a cliccare sugli annunci pubblicitari. L'IA rende semplicemente l'intero processo più agevole. Le policy di TikTok proibiscono i contenuti generati dall'IA‑che siano "ingannevoli su questioni di pubblico interesse", ma tali policy semplicemente non vengono applicate.

IA e integrità dell'informazione: Sistemi inaffidabili

Gli incentivi finanziari offerti dalle principali piattaforme digitali non si fermano ai programmi di remunerazione per i creator: l'IA ha anche potenziato enormemente il settore delle truffe online, già fiorente nella maggior parte di questi spazi; la contraffazione dei prodotti è più realistica e semplice che mai, e spacciarsi per marchi o negozi affidabili è a portata di clic. Le piattaforme su cui avvengono queste truffe sono del tutto impreparate ad affrontare una simile sfida.

In Fundación Maldita.es individuiamo abitualmente vaste reti dedicate alle truffe ai danni dei consumatori sulle principali piattaforme. Recentemente abbiamo documentato come, nell’arco di 3 mesi, 170 account Meta apparentemente "verificati" abbiano pubblicato oltre 67.000 truffe di vario tipo, solo in Europa. Gli account che pubblicizzavano le truffe erano stati "sottratti" ai legittimi proprietari tramite hackeraggio o, peggio ancora, "verificati" come profili autentici di vari personaggi pubblici del tutto estranei alla vicenda.

Ancora una volta, Meta disponeva di norme che avrebbero dovuto impedire che ciò accadesse ma, proprio come nel caso di TikTok, non sono state fatte rispettare. E non si tratta di un problema limitato a queste due sole piattaforme: abbiamo anche documentato come YouTube finanzi la disinformazione sul clima in violazione delle sue stesse norme o come una massiccia campagna truffaldina su X abbia raggiunto 76 milioni di impression. Nessuno di questi efficaci schemi di manipolazione sarebbe stato possibile senza l'uso dell'IA.

L'IA e l'impatto reale

Poiché l'ampia adozione dell'IA pone sfide imponenti per l'integrità dell'informazione, occorre impiegare gli strumenti di IA anche per affrontare tali sfide e documentarne i danni. Inoltre, le organizzazioni e i singoli individui che chiedono una maggiore responsabilizzazione devono cambiare mentalità, passando dal semplice "portare alla luce" gli abusi agevolati dall'IA all'individuazione di modi concreti per porvi effettivo rimedio.

Mentre la maggior parte delle aziende tecnologiche globali riduce i propri impegni in materia di responsabilità sociale, chi si occupa di ricerca sui danni online e di advocacy per il loro contenimento deve valutare attentamente quali strategie abbiano maggiori probabilità di migliorare concretamente le cose per gli utenti: la vigilanza normativa, il contenzioso strategico, le campagne di pressione pubblica o lo sviluppo di strumenti e spazi online alternativi.

Si tratta di un percorso in cui è impegnata in prima fila Fundación Maldita.es. In tutte le inchieste citate in questo articolo abbiamo documentato in modo rigoroso tutte le prove disponibili, non solo per fornire esempi di cattive pratiche a chi legge le nostre analisi, ma anche per strutturare dataset coerenti in grado di soddisfare gli standard probatori in sede giudiziaria o di fornire basi solide per l'intervento dei regolatori.

Abbiamo imparato che nell'era dell'IA l'"impatto" delle nostre inchieste non può essere misurato semplicemente in base al numero di utenti coinvolti, alle citazioni dei nostri risultati o ai giornalisti che ci contattano per approfondirli. Il nostro impatto (e quello di chiunque aspiri a un ecosistema informativo più sicuro) deve essere valutato alla luce del contributo fornito al cambiamento di attitudini, regole e azioni da parte della manciata di aziende tech che dominano gli strumenti di IA.

Alcuni dialogheranno con le autorità democratiche o i regolatori indipendenti; altri utilizzeranno le prove raccolte durante le inchieste per sensibilizzare l'opinione pubblica e guidare mobilitazioni dal basso che esercitino pressione su queste aziende. Una cosa è chiara: in questa nuova era, l'impatto reale non deriva solo dalla critica, ma dalla definizione di una strategia per il cambiamento.

Sfruttando le proprie piattaforme e la propria esperienza, le organizzazioni della società civile possono battersi per questo cambiamento ed esercitare pressione sui social media, come TikTok e Meta, affinché modifichino le proprie strategie verso i deepfake generati dall'IA, oltre alle loro policy sulla remunerazione e sulla pubblicità ingannevole.

Il tuo feedback è importante

Cosa ne pensi di questo testo? Dedica 30 secondi a condividere il tuo feedback e aiutarci a creare contenuti significativi per la società civile.

Vuoi saperne di più sui report? Dai un'occhiata!

Ultimo aggiornamento: 8 ottobre 2026, per riflettere gli sviluppi recenti. Dalla pubblicazione di questo articolo, il quadro normativo relativo alla disinformazione generata dall’intelligenza artificiale si è evoluto significativamente. Gli obblighi di trasparenza previsti dall’AI Act dell’UE sono diventati applicabili il 2 agosto 2026, introducendo requisiti affinché determinati contenuti generati o manipolati dall’IA, compresi i deepfake, siano dichiarati come tali e riconoscibili. Le organizzazioni impegnate nella tutela dell’integrità dell’informazione dovrebbero approfondire le disposizioni sulla trasparenza dell’AI Act e le relative indicazioni attuative della Commissione europea.

Allo stesso tempo, le piattaforme di social media sono sottoposte a un controllo crescente da parte delle autorità nell’ambito del Digital Services Act (DSA) dell’UE. L’attenzione si concentra sempre più sulla trasparenza delle piattaforme, sull’accesso ai dati da parte dei ricercatori e sulla mitigazione dei rischi sistemici legati alla disinformazione e ai sistemi di raccomandazione dei contenuti. Questi sviluppi riflettono una tendenza più ampia verso una maggiore responsabilizzazione delle piattaforme online e degli ambienti informativi che utilizzano l’IA.

Risorse utili:

Informazioni sull'autore

Carlos Hernández-Echevarría è coordinatore delle policy presso la Fundación Maldita e giornalista con 15 anni di esperienza in televisione come reporter, corrispondente e responsabile di programma. Fa parte della task force permanente del Codice di buone pratiche sulla disinformazione e del gruppo di lavoro sulla disinformazione dell'EDMO (Osservatorio europeo dei media digitali). Ha conseguito la laurea in Giornalismo presso l'Universidad San Pablo CEU e, grazie a una borsa di studio Fulbright, ha ottenuto un Master in Elections and Campaign Management presso la Fordham University.

Note e Disclaimer

Questa risorsa è stata creata nell'ambito del progetto AI for Social Change del Digital Activism Program di TechSoup, con il supporto di Google.org.

Gli strumenti di IA si evolvono rapidamente e, sebbene facciamo il possibile per garantire l'accuratezza dei contenuti, alcuni elementi potrebbero non essere più aggiornati. Se noti informazioni superate, segnalacelo all'indirizzo content@techsoup.org.

Il contenuto è stato creato, revisionato e modificato da Carlos Hernández-Echevarría, con l'ausilio dell'IA