Gli strumenti di intelligenza artificiale sono entrati in questo scenario in un momento di autentico bisogno. Il rischio, tuttavia, è che si presentino come la soluzione al problema sbagliato — ovvero che le organizzazioni li adottino sperando di automatizzare il cuore del lavoro giornalistico, ossia la verifica delle fonti, per poi restarne deluse. Questo articolo propone una prospettiva diversa: l'IA come infrastruttura per l'analisi, non come sostituto del giudizio umano. Attraverso l'innovativo lavoro dei fact-checker spagnoli di Maldita.es, mostreremo che, anziché dirci cosa sia vero, questi strumenti possono aiutarci a capire cosa stia succedendo, a una scala e a una velocità che altrimenti impossibili.

Un problema che ha superato le capacità umane

L'espressione "integrità dell'informazione" ha un significato preciso: indica il grado di accuratezza e tracciabilità di una notizia, e quanto sia correttamente contestualizzata. Nel contesto digitale, ciascuno di questi elementi è sottoposto a una pressione costante attraverso meccanismi ormai così familiari che vale la pena chiamare direttamente col loro nome.

Il primo è l'algoritmo di ranking delle piattaforme, che premia il coinvolgimento emotivo e la capacità di generare condivisione. Questo criterio può persino prevalere su metriche più oggettive, come l'ordine cronologico o il legame con la propria rete di contatti. Il risultato è una distorsione strutturale dei contenuti che acquisiscono maggiore visibilità: a vincere non è l'informazione più affidabile, ma quella che cattura maggiormente l'attenzione.

Il secondo è la facilità con cui i contenuti vengono separati dalla fonte originale, dalla data o dal contesto, rendendo sempre più difficile l'attribuzione. Un video girato in un determinato paese viene spacciato per attuale in un altro; una dichiarazione di anni fa viene rimessa in circolo come se fosse una notizia di oggi. Il problema non è l'errore umano o la cattiva fede dei singoli, ma un formato che separa sistematicamente i contenuti dai metadati necessari a valutarli.

Il terzo fattore è la portata. Gli strumenti di AI generativa e le infrastrutture di distribuzione coordinata hanno abbattuto i costi di produzione e diffusione di enormi quantità di contenuti. Ciò che un tempo richiedeva notevoli risorse finanziarie e organizzative (come una campagna di disinformazione coordinata o una rete di profili sintetici per lanciare una narrazione) oggi è accessibile a costi irrisori e con un approccio per tentativi che rende la tracciabilità molto più complessa. Proprio come i social media hanno azzerato i costi di distribuzione, l'IA generativa consente di creare a basso costo contenuti personalizzati e di alta qualità in qualsiasi formato. Saturare lo spazio informativo è diventato facilissimo, e i malintenzionati puntano tutto sulla quantità piuttosto che sull'accuratezza.

Di conseguenza, per chi si occupa di monitoraggio, il ritmo con cui vengono prodotti nuovi contenuti ha ampiamente superato la capacità dei team umani di monitorarli in tempo reale. Un gruppo di analisti, per quanto qualificato, non può analizzare migliaia di post all'ora, individuare i trend emergenti tra le varie piattaforme o mantenere una vigilanza costante su uno scenario informativo in continua e rapidissima evoluzione.

Non è una questione di risorse che si potrebbe risolvere assumendo più personale. È un divario strutturale che richiede strumenti adeguati alla sua portata.

La portata di questa sfida è emersa chiaramente durante le alluvioni del 2024 in Spagna, costate la vita a 238 persone. La quantità di contenuti fuorvianti circolati nei giorni successivi non ha quasi precedenti, alimentata da incomprensioni involontarie, interessi di parte e campagne coordinate. In quella circostanza, Maldita.es ha ricevuto il quadruplo delle richieste di verifica rispetto alla media: 13.000 in soli sette giorni. Grazie al nostro sistema di monitoraggio basato sull'IA, siamo riusciti a raggruppare questi messaggi in macro-narrazioni di fondo (ad esempio: "le alluvioni sono frutto di un piano delle élite", oppure "le autorità nascondono il numero reale delle vittime"). Questo ci ha permesso di interpretare il contesto informativo e di arricchirlo con dati empirici — un passo fondamentale prima di redigere report istituzionali sulla regolamentazione delle piattaforme come questo.

Cosa possono (e non possono) fare gli strumenti di IA

Il malinteso più tenace e dannoso sugli strumenti di IA in questo settore è l'idea che possano stabilire se una notizia sia vera o falsa. Non possono farlo. Non in modo affidabile, non su larga scala e non in un modo che possa sostituire il giudizio editoriale. Almeno non ancora. Fraintendere questo limite porta a sviluppare strumenti inadeguati, a riporre in essi una fiducia ingiustificata e, in ultima analisi, a ottenere risultati che minano la credibilità anziché rafforzarla.

Nel dibattito pubblico si tende a confondere una distinzione fondamentale: quella tra l'individuazione di contenuti sintetici o inautentici e l'individuazione di contenuti inesatti. Si tratta di problemi tecnici diversi che richiedono soluzioni diverse.

  • Rilevare un'immagine generata artificialmente o una rete coordinata di profili non autentici è, in sostanza, un problema di riconoscimento di pattern. Lo si può affrontare con strumenti di machine learning progettati per questo scopo, come la filigrana digitale (watermarking), il fingerprinting o l'analisi comportamentale.

  • Verificare l'accuratezza di una affermazione fattuale è invece un problema epistemico: richiede l'accesso alle prove, la capacità di valutare le fonti e la capacità di esercitare un giudizio critico su cosa sia affidabile. I modelli linguistici di grandi dimensioni (LLM) non sono stati progettati per questo scopo, e la loro tendenza a generare informazioni plausibili ma infondate li rende estremamente pericolosi se usati come strumenti di verifica dei fatti.

Laddove gli LLM e gli strumenti di IA correlati offrono un valore concreto e affidabile è nelle attività che non richiedono una conoscenza delle realtà. Si tratta di compiti legati alla trasformazione e all'organizzazione delle informazioni, piuttosto che alla loro verifica: la classificazione per temi, l'etichettatura del testo, il clustering (il raggruppamento) o la sintesi. Sono operazioni che riorganizzano e inquadrano le informazioni esistenti senza decretarne la veridicità. Ad esempio, Maldita.es partecipa al progetto europeo Prebunking At Scale utilizzando gli LLM per elaborare migliaia di segnalazioni legate a video brevi su TikTok, YouTube e Instagram. I contenuti vengono smistati automaticamente in cinque categorie: salute, conflitti, Unione europea, migrazione e clima. Un sistema di IA che prende un flusso di diecimila post provendienti dai social media e li etichetta fa qualcosa di straordinariamente utile: trasforma il rumore di fondo in un dataset strutturato su cui gli analisti possono lavorare. Non ha verificato nulla, ma ha reso la verifica molto più semplice.

La conclusione pratica è evidente: in questo ambito, gli strumenti di IA esprimono il loro massimo potenziale come assistenti analitici (e non come guide) per trasformare e organizzare i dati. Qualsiasi promessa che vada oltre questo limite va accolta con estrema cautela, sia che provenga dalla presentazione commerciale di un prodotto, sia che emerga nel flusso di lavoro di una redazione.

Costruire un'infrastruttura di monitoraggio: dati, memoria e rumore

La sfida pratica di un monitoraggio supportato dall'IA è innanzitutto di natura architettonica, ancor prima che analitica. Prima che uno strumento possa far emergere pattern o raggruppare narrazioni, deve poter contare su un flusso affidabile di dati, su una struttura in cui archiviare e mettere in relazione i contenuti individauti e di una strategia per gestire il rumore di fondo intrinseco a qualsiasi sistema automatizzato su larga scala.

1) La scelta delle fonti di dati genera compromessi significativi che si ripercuotono su tutte le fasi successive del lavoro. Le API delle piattaforme offrono grandi volumi di contenuti, ma a un prezzo: il rapporto segnale-rumore è basso perché non tutto il materiale è pertinente. Inoltre, i contenuti più sensibili vengono spesso filtrati dalle piattaforme stesse prima ancora di raggiungere i ricercatori e i termini di accesso cambiano in modo imprevedibile. Inoltre, le API ufficiali tendono ad essere molto costose. Il crowdsourcing basato sugli utenti (attraverso segnalazioni, strumenti di notifica e canali WhatsApp) produce contributi di qualità superiore e maggiormente contestualizzati, ma la copertura è limitata e dipende dal livello di coinvolgimento della comunità. La selezione mirata da parte di esperti garantisce i dati più affidabili e ricchi di contesto, ma richiede un enorme dispendio di risorse e non è applicabile su larga scala per coprire interi ambienti informativi in tempo reale. Un esempio di banca dati basata sul lavoro di esperti è Iberifier, sviluppata da Maldita.es. Con una prospettiva iberoamericana, questa infrastruttura digitale consente alle organizzazioni di fact-checking di diversi paesi di condividere e incrociare i propri risultati. La maggior parte dei sistemi di monitoraggio combina queste tre opzioni, e il modo in cui vengono combinate definisce i punti di forza e le zone d'ombra di ciascun sistema.

2) L'archiviazione e la memoria sono componenti fondamentali di un monitoraggio efficace, sebbene spesso sottovalutate. Un database che conserva i contenuti già analizzati fa molto più che archiviarli: rende l'analisi cumulativa. Quando arriva una nuova segnalazione, questa può essere confrontata con i record esistenti, non solo per evitare duplicazioni, ma per misurarne la frequenza con cui ricorre, seguirne la diffusione nel tempo e costruire una visione longitudinale dell'evoluzione di una determinata narrazione. Questo principio è il cuore del canale di segnalazione di WhatsApp, su cui si basa il monitoraggio informativo di Maldita.es. I metadati associati a ogni elemento (come la piattaforma di origine, la data, gli account collegati e le precedenti occorrenze) diventano la materia prima dell'indagine. Senza questa memoria istituzionale, il monitoraggio resta episodico anziché strutturale: si può vedere cosa fa tendenza oggi, ma non come si colleghi ai trend di sei mesi fa.

3) È importante sottolineare che nessuna infrastruttura di monitoraggio elimina del tutto il rumore di fondo. Si tratta di una caratteristica strutturale, non di un bug risolvibile, in particolare quando i dati provengono dalle API delle piattaforme o quando la classificazione è in parte automatizzata. Le contromisure disponibili sono parziali ma efficaci: flussi di lavoro che prevedono la supervisione umana — in cui i contenuti sono soggetti a revisione editoriale prima di influenzare i risultati — o l'integrazione di banche dati esterne (come Wikidata) che aiutano il sistema a distinguere gli omonimi, disambiguare i riferimenti ed evitare di confondere attori o eventi diversi. L'obiettivo non è un sistema privo di rumore, ma un sistema in cui il rumore sia gestito abbastanza bene da mantenere leggibile il segnale.

Dalle singole affermazioni alle narrazioni di fondo

Le singole dichiarazioni false o fuorvianti sono solo i sintomi. La vera malattia è la narrazione: la cornice ideologica più ampia in cui le singole affermazioni acquisiscono significato e che conferisce alle informazioni fuorvianti la loro persistenza e la loro forza persuasiva.

Inizialmente, Maldita.es aveva individuato casi isolati che riprendevano un articolo sull'aumento dei ghiacci nella piattaforma antartica tra il 2009 e il 2019. Ma le minacce all'integrità dell'informazione raramente si manifestano attraverso elementi singoli e isolati. Più spesso, fanno leva su una catena di affermazioni apparentemente fattuali che, insieme, costruiscono una visione del mondo: un modo particolare di intendere chi sia il responsabile di un problema, chi tragga beneficio di una determinata politica o quale sia stato il vero significato di certi eventi storici. Più avanti nello stesso anno, la nostra redazione ha visto emergere post che sostenevano che Al Gore avesse fallito nel prevedere lo scioglimento della calotta polare entro il 2014. Ciascuna di queste affermazioni può essere contestata, esagerata o semplicemente estrapolata dal contesto, ma l'effetto cumulativo sulle convinzioni del lettore può essere sostanziale. Un sistema di monitoraggio che si limita a analizzare le singole dichiarazioni in modo isolato, smentendole a mano a mano che appaiono, non riesce a cogliere questa struttura profonda. Cura i sintomi senza vedere la malattia.

Combinare i database dei contenuti con i modelli linguistici di grandi dimensioni offre un modo per analizzare le informazioni a ivello di narrazioni anziché di singole affermazioni. La capacità fondamentale è il raggruppamento: partendo da un ampio insieme di dichiarazioni su un argomento, un LLM può identificare quali richiamano la stessa cornice di fondo, anche quando cambiano le parole specifiche, gli attori o i contesti. Questo supera un limite fondamentale dell'analisi umana: nessun team di analisti può mantenere contemporaneamente migliaia di affermazioni nella memoria di lavoro, tracciarne i collegamenti e individuare il pattern che le unisce nel tempo e nello spazio. Il clustering computazionale e l'etichettatura supportata dall'IA ampliano le possibilità di analisi oltre i limiti cognitivi. Questa tecnologia ci ha permesso di individuare e smontare una narrazione che metteva in discussione la crisi climatica in corso proprio attraverso una serie di affermazioni sulla dimensione dei ghiacci polari.

Identificare le narrazioni ricorrenti permette inoltre di riconoscere pattern che possono offrire indicazioni investigative più significative di quelle ricavabili da un singolo articolo: quando lo stesso schema narrativo compare in più aree geografiche a breve distanza di tempo, spesso è un segnale che merita un'indagine approfondita. Le narrazioni non si diffondono in modo casuale; sono spesso introdotte da attori che hanno precisi motivi per promuovere una determinata chiave di lettura. La ricorrenza transnazionale, quando viene rilevata in modo sistematico e non aneddotico, diventa una pista da seguire. Per dipanare questa rete, Maldita.es coordina un database di segnalazioni finanziato dal National Endowment for Democracy, in cui organizzazioni dell'America Latina e dell'Europa dell'Est anticipano e tracciano le operazioni di manipolazione informativa russe.

Trasformare il monitoraggio in azione

Un'analisi che resta chiusa in un database non cambia nulla. L'ultima e forse più importante sfida progettuale nel monitoraggio supportato dall'IA tradurre l'infrastruttura analitica in risultati concretamente utilizzabili che le organizzazioni possano effettivamente utilizzare. Ciò richiede di considerare attentamente quali siano le organizzazioni destinatarie e di cosa abbiano bisogno.

Gli utenti finali hanno esigenze diverse. I ricercatori desiderano dati grezzi ed esportabili (in genere file CSV completi di metadati) da filtrare per data, piattaforma e argomento, in modo da poterli inserire nei propri flussi di analisi. Le redazioni prediligono invece soluzioni visive e navigabili: dashboard che mettono in evidenza i trend emergenti, notifiche configurabili in caso di picchi anomali su un tema e interfacce intuitive per esplorare i dati senza dover scrivere righe di codice. Le organizzazioni della società civile che si occupano di comunicazione pubblica possono avere esigenze ancora diverse. Uno strumento di monitoraggio progettato senza tenere conto dei suoi utenti non verrà utilizzato, a prescindere dalla qualità dell'analisi su cui si basa.

Inoltre, gli strumenti costruiti attorno a dataset dinamici e in costante crescita richiedono una manutenzione continua, a differenza dei progetti di analisi circoscritti nel tempo. Diversamente da un'indagine basata su una fuga di documenti, che si basa su un corpus fisso e ha una conclusione definita, un sistema di monitoraggio opera su un flusso che non si interrompe mai. Le definizioni dei temi vanno ricalibrate man mano che l'ambiente informativo si evolve. I processi di elaborazione basati sul'IA devono essere sorvegliati per evitare fenomeni di deriva dei modelli e adattati ai cambiamenti nei pattern linguistici. Anche il consumo di risorse va gestito con attenzione, poiché un'analisi continua supportata dall'IA su larga scala comporta costi reali. Questi non sono problemi da risolvere una volta per tutte al momento del lancio, ma responsabilità operative quotidiane.

Il valore nel lungo periodo di un sistema di monitoraggio ben progettato non risiede in un singolo risultato, che si tratti di un'indagine specifica, di un report sui trend o di materiale di contro-narrazione. Risiede nella memoria istituzionale e nell'integrazione dei flussi di lavoro che il sistema permette di consolidare nel tempo. Le organizzazioni che hanno integrato gli strumenti di monitoraggio nei loro processi editoriali, costruendo la propria attività quotidiana sulle informazioni fornite da questi sistemi, rispondono alle nuove minacce più rapidamente, con più evidenze e con una comprensione più approfondita di come si siano evolute le narrazioni che stanno monitorando. Il bagaglio di conoscenze che si accumula in un sistema ben gestito diventa, col tempo, un vantaggio competitivo nel più ampio ecosistema dell'informazione.

Il tuo feedback è importante

Cosa ne pensi di questo testo? Dedica 30 secondi per condividere il tuo feedback e aiutarci a creare contenuti significativi per la società civile.

Ultimo aggiornamento il 2 luglio 2026 per riflettere gli ultimi sviluppi.

Note e Disclaimer

Questa risorsa è stata creata nell'ambito del progetto AI for Social Change del Digital Activism Program di TechSoup, con il supporto di Google.org.

L'autrice ha utilizzato l'IA per creare questo contenuto. Tuttavia, l'intero articolo è stato ideato, revisionato e verificato dall'autrice e dal team di TechSoup.

Gli strumenti di IA si evolvono rapidamente e, sebbene facciamo il possibile per garantire l'accuratezza dei contenuti, alcuni elementi potrebbero non essere più aggiornati. Se noti informazioni superate, segnalacelo all'indirizzo contact@hive-mind.community