Gli strumenti di intelligenza artificiale sono entrati in questo scenario in un momento di autentico bisogno. Il rischio, tuttavia, è che si presentino come la soluzione al problema sbagliato — ovvero che le organizzazioni li adottino sperando di automatizzare il cuore del lavoro giornalistico, la verifica delle fonti, per poi restarne deluse. Questo articolo propone una prospettiva diversa: l'IA come infrastruttura per l'analisi, non come sostituto del giudizio umano. Attraverso l'innovativo lavoro dei fact-checker spagnoli di Maldita.es, mostreremo che, anziché dirci cosa sia vero, questi strumenti possono aiutarci a capire cosa stia succedendo, a una scala e a una velocità che altrimenti resterebbero invisibili.
Un problema che ha superato le capacità umane
L'espressione "integrità dell'informazione" ha un significato preciso: indica il grado di accuratezza e tracciabilità di una notizia, e quanto sia inserita nel suo contesto appropriato. Nel contesto digitale, ognuna di queste proprietà subisce una pressione costante attraverso meccanismi ormai così familiari che vale la pena chiamare direttamente col loro nome.
Il primo è l'algoritmo di posizionamento delle piattaforme, che premia il coinvolgimento emotivo e la condivisibilità. Questo criterio può persino scavalcare metriche più oggettive, come l'ordine cronologico o il legame con la propria rete di contatti. Il risultato è una distorsione strutturale dei contenuti più visibili: a vincere non è l'informazione più affidabile, ma quella che cattura maggiormente l'attenzione.
Il secondo è la facilità con cui i contenuti vengono separati dalla fonte originale, dalla data o dal contesto, rendendo sempre più difficile l'attribuzione. Un video girato in un determinato paese viene spacciato per attuale in un altro; una dichiarazione di anni fa viene rimessa in circolo come se fosse una notizia di oggi. Il problema non è l'errore umano o la cattiva fede dei singoli, ma un formato che recide sistematicamente i contenuti dai metadati necessari a valutarli.
Il terzo fattore è la portata. Gli strumenti generativi e le infrastrutture di distribuzione coordinata hanno abbattuto i costi di produzione e diffusione di enormi quantità di contenuti. Ciò che un tempo richiedeva notevoli risorse finanziarie e organizzative (come una campagna di disinformazione coordinata o una rete di profili sintetici per lanciare una narrazione) oggi è accessibile a costi irrisori e con un approccio per tentativi che rende la tracciabilità molto più complessa. Proprio come i social media hanno azzerato i costi di distribuzione, l'IA generativa consente di creare a basso costo contenuti personalizzati e di alta qualità in qualsiasi formato. Saturare lo spazio informativo è diventato facilissimo, e i malintenzionati puntano tutto sulla quantità piuttosto che sulla precisione.
Di conseguenza, per chi si occupa di monitoraggio, il ritmo con cui nascono nuovi contenuti ha ampiamente superato la capacità dei team umani di monitorarli in tempo reale. Un gruppo di analisti, per quanto qualificato, non può elaborare migliaia di post all'ora, individuare i trend emergenti tra le varie piattaforme o mantenere una vigilanza costante su uno scenario informativo in continua e rapidissima evoluzione.
Non è una questione di risorse che si potrebbe risolvere assumendo più personale. È un divario strutturale che richiede strumenti strutturali.
La portata di questa sfida è emersa chiaramente durante le alluvioni del 2024 in Spagna, costate la vita a 238 persone. La quantità di contenuti fuorvianti circolati nei giorni successivi non ha quasi precedenti, alimentata da incomprensioni involontarie, interessi di parte e campagne coordinate. In quella circostanza, Maldita.es ha ricevuto il quadruplo delle richieste di verifica rispetto alla media: 13.000 in soli sette giorni. Grazie al nostro sistema di monitoraggio basato sull'IA, siamo riusciti a raggruppare questi messaggi in macro-narrazioni di fondo (ad esempio: "le alluvioni sono frutto di un piano delle élite", oppure "le autorità nascondono il numero reale delle vittime"). Questo ci ha permesso di decodificare il contesto informativo e di popolarlo con dati empirici — un passo fondamentale prima di redigere report istituzionali sulla regolamentazione delle piattaforme come questo.
Cosa possono (e non possono) fare gli strumenti di IA
Il malinteso più tenace e dannoso sugli strumenti di IA in questo settore è l'idea che possano stabilire se una notizia sia vera o falsa. Non possono farlo. Non in modo affidabile, non su larga scala e non in una modalità che possa sostituire il giudizio editoriale. Almeno non ancora. Fraintendere questo limite porta a sviluppare strumenti inadeguati, a concedere una fiducia ingiustificata e, in ultima analisi, a ottenere risultati che minano la credibilità anziché rafforzarla.
Nel dibattito pubblico si tende a confondere una distinzione fondamentale: quella tra l'individuazione di contenuti sintetici o inautentici e l'individuazione di contenuti inesatti. Si tratta di problemi tecnici diversi che richiedono soluzioni diverse.
Rilevare un'immagine generata artificialmente o una rete coordinata di profili non autentici è, in sostanza, un problema di riconoscimento di pattern. Lo si può affrontare con strumenti di machine learning progettati per questo scopo, come la filigrana digitale (watermarking), il fingerprinting o l'analisi comportamentale.
Rilevare un'affermazione fattuale è invece un problema epistemico: richiede l'accesso alle prove, la capacità di valutare le fonti e l'applicazione del giudizio critico su cosa sia affidabile. I modelli linguistici di grandi dimensioni (LLM) non sono stati progettati per questo scopo, e la loro tendenza a inventare storie con disinvoltura li rende estremamente pericolosi se usati come strumenti di verifica dei fatti.
Laddove gli LLM e gli strumenti di IA correlati offrono un valore concreto e affidabile è nelle attività che non richiedono una conoscenza esterna del mondo. Si tratta di compiti legati alla trasformazione e all'organizzazione delle informazioni, piuttosto che alla loro verifica: la classificazione per temi, l'etichettatura del testo, il clustering (il raggruppamento) o la sintesi. Sono operazioni che riorganizzano e inquadrano le informazioni esistenti senza decretarne la veridicità. Ad esempio, Maldita.es partecipa al progetto europeo Prebunking At Scale utilizzando gli LLM per elaborare migliaia di segnalazioni legate a video brevi su TikTok, YouTube e Instagram. I contenuti vengono smistati automaticamente in cinque categorie: salute, conflitti, Unione europea, migrazione e clima. Un sistema di IA che prende un flusso di diecimila post sui social e li etichetta fa qualcosa di straordinariamente utile: trasforma il rumore di fondo in un dataset strutturato su cui gli analisti possono lavorare. Non ha verificato nulla, ma ha reso la verifica molto più semplice.
La conclusione pratica è evidente: in questo ambito, gli strumenti di IA esprimono il loro massimo potenziale come assistenti analitici (e non come guide) per trasformare e organizzare i dati. Qualsiasi pretesa che vada oltre questo limite va accolta con estrema cautela, che si trovi nella presentazione commerciale di un prodotto o nel flusso di lavoro di una redazione.
Costruire un'infrastruttura di monitoraggio: dati, memoria e rumore
La sfida pratica di un monitoraggio supportato dall'IA è innanzitutto di natura architettonica, ancor prima che analitica. Prima che uno strumento possa far emergere pattern o raggruppare narrazioni, ha bisogno di un flusso affidabile di dati, di una struttura per archiviare e collegare ciò che individua e di una strategia per gestire il rumore di fondo intrinseco a qualsiasi sistema automatizzato su larga scala.
1) Le fonti dei dati comportano compromessi significativi per tutto il lavoro a valle. Le API delle piattaforme offrono grandi volumi di contenuti, ma a un prezzo: il rapporto segnale-rumore è basso perché non tutto il materiale è pertinente. Inoltre, i contenuti più sensibili vengono spesso filtrati dalle piattaforme stesse prima ancora di raggiungere i ricercatori e i termini di accesso cambiano in modo imprevedibile. Inoltre, le API ufficiali tendono ad essere molto costose. Il crowdsourcing basato sugli utenti (attraverso segnalazioni, strumenti di notifica e canali WhatsApp) produce contributi di qualità superiore e più radicati nel contesto, ma la copertura è limitata e dipende dal livello di coinvolgimento della comunità. La selezione mirata da parte di esperti garantisce i dati più affidabili e ricchi di contesto, ma richiede un enorme dispendio di risorse e non è applicabile su larga scala per coprire interi ambienti informatici in tempo reale. Un esempio di banca dati basata sul lavoro di esperti è Iberifier, sviluppata da Maldita.es. Con una prospettiva iberoamericana, questa infrastruttura digitale consente alle organizzazioni di fact-checking di diversi paesi di condividere e incrociare i propri risultati. La maggior parte dei sistemi di monitoraggio combina queste tre opzioni, e il modo in cui vengono combinate definisce i punti di forza e le zone d'ombra di ciascun sistema.
2) L'archiviazione e la memoria sono componenti fondamentali di un monitoraggio efficace, sebbene spesso sottovalutate. Un database che custodisce i contenuti già analizzati fa molto più che archiviarli: rende l'analisi cumulativa. Quando arriva una nuova segnalazione, questa può essere confrontata con i record esistenti, non solo per evitare duplicazioni, ma per misurarne la ricorrenza, tracciarne la viralità nel tempo e costruire una visione longitudinale dell'evoluzione di una determinata narrazione. Questo principio è il cuore del canale di segnalazione di WhatsApp, che struttura il monitoraggio informativo di Maldita.es. I metadati associati a ogni elemento (come la piattaforma di origine, la data, gli account collegati e le precedenti occorrenze) diventano la materia prima dell'indagine. Senza questa memoria istituzionale, il monitoraggio resta episodico anziché strutturale: si può vedere cosa fa tendenza oggi, ma non come si colleghi ai trend di sei mesi fa.
3) È importante sottolineare che nessuna infrastruttura di monitoraggio elimina del tutto il rumore di fondo. Si tratta di una caratteristica strutturale, non di un bug risolvibile, in particolare quando i dati provengono dalle API delle piattaforme o quando la classificazione è in parte automatizzata. Le contromisure disponibili sono parziali ma efficaci: flussi di lavoro che prevedono la supervisione umana — in cui i contenuti segnalati passano al vaglio di una revisione editoriale prima di influenzare i risultati — o l'integrazione di banche dati esterne (come Wikidata) che aiutano il sistema a distinguere gli omonimi, risolvere riferimenti ambigui ed evitare di confondere attori o eventi diversi. L'obiettivo non è un sistema privo di rumore, ma un sistema in cui il rumore sia gestito abbastanza bene da mantenere leggibile il segnale.
Dalle singole affermazioni alle narrazioni di fondo
Le singole dichiarazioni false o fuorvianti sono solo i sintomi. La vera malattia è la narrazione: la cornice ideologica più ampia in cui le singole affermazioni acquisiscono significato e che conferisce alle informazioni fuorvianti la loro persistenza e la loro forza persuasiva.
Inizialmente, Maldita.es aveva individuato casi isolati che riprendevano un articolo sull'aumento dei ghiacci nella piattaforma antartica tra il 2009 e il 2019. Ma le minacce all'integrità dell'informazione raramente si muovono attraverso elementi singoli e separati. Più spesso, fanno leva su una catena di asserzioni apparentemente fattuali che, insieme, costruiscono una visione del mondo: un modo particolare di intendere chi sia il responsabile di un problema, chi benefici di una determinata politica o quale sia stato il vero significato di certi eventi storici. Più avanti nello stesso anno, la nostra redazione ha visto emergere post che sostenevano che Al Gore avesse fallito nel prevedere lo scioglimento della calotta polare entro il 2014. Ciascuna di queste affermazioni può essere contestata, esagerata o semplicemente estrapolata dal contesto, ma l'effetto cumulativo sulle convinzioni del lettore può essere sostanziale. Un sistema di monitoraggio che si limita a elaborare le singole dichiarazioni in modo isolato, smentendole a mano a mano che appaiono, non riesce a cogliere questa struttura profonda. Cura i sintomi senza vedere la malattia.
Combinare i database dei contenuti con i modelli linguistici di grandi dimensioni offre un modo per lavorare a livello di narrazioni anziché di singole affermazioni. La capacità chiave è il raggruppamento: partendo da un ampio insieme di dichiarazioni su un argomento, un LLM può identificare quali richiamino la stessa cornice di fondo, anche quando cambiano le parole specifiche, gli attori o i contesti. Questo supera un limite fondamentale dell'analisi umana: nessun team di analisti può trattenere contemporaneamente migliaia di affermazioni nella memoria di lavoro, tracciarne i collegamenti e individuare il pattern che le unisce nel tempo e nello spazio. Il clustering computazionale e l'etichettatura supportata dall'IA ampliano ciò che è cognitivamente possibile. Questa tecnologia ci ha permesso di individuare e smontare una narrazione che metteva in discussione la crisi climatica in corso proprio attraverso una serie di affermazioni sulla dimensione dei ghiacci polari.
Identificare le narrazioni ricorrenti permette inoltre di riconoscere pattern che hanno un valore investigativo superiore a qualsiasi singolo articolo: quando lo stesso schema narrativo compare in più aree geografiche a breve distanza di tempo, spesso è un segnale che merita un'indagine approfondita. Le narrazioni non si diffondono in modo casuale; sono spesso introdotte da attori che hanno precisi motivi per promuovere una determinata chiave di lettura. La ricorrenza transnazionale, quando viene rilevata in modo sistematico e non aneddotico, diventa il filo conduttore da seguire. Per dipanare questa rete, Maldita.es coordina un database di segnalazioni finanziato dal National Endowment for Democracy, in cui organizzazioni dell'America Latina e dell'Europa dell'Est anticipano e tracciano le operazioni di manipolazione informativa russe.
Trasformare il monitoraggio in azione
Un'analisi che resta chiusa in un database non cambia nulla. L'ultima e forse più importante sfida progettuale nel monitoraggio supportato dall'IA consiste nel collegare l'infrastruttura analitica a risultati pratici che le organizzazioni possano effettivamente utilizzare. E questo significa riflettere attentamente su chi siano queste organizzazioni e di cosa abbiano bisogno.
Gli utenti finali hanno esigenze diverse. I ricercatori desiderano dati grezzi ed esportabili (in genere file CSV completi di metadati) da filtrare per data, piattaforma e argomento, in modo da poterli inserire nei propri flussi di analisi. Le redazioni prediligono invece soluzioni visive e navigabili: dashboard che mettono in evidenza i trend emergenti, notifiche configurabili in caso di picchi anomali su un tema e interfacce intuitive per esplorare i dati senza dover scrivere righe di codice. Le organizzazioni della società civile che si occupano di comunicazione pubblica possono avere esigenze ancora diverse. Uno strumento di monitoraggio progettato senza tenere conto dei suoi utenti non verrà utilizzato, a prescindere dalla qualità dell'analisi su cui si basa.
Inoltre, gli strumenti costruiti attorno a dataset dinamici e in costante crescita richiedono una manutenzione continua, a differenza dei progetti di analisi una tantum. Diversamente dall'indagine sulla fuga di notizie da un documento, che si basa su un corpus fisso e ha una conclusione definita, un sistema di monitoraggio opera su un flusso che non si interrompe mai. Le definizioni dei temi vanno ricalibrate man mano che l'ambiente informativo si evolve. I processi di elaborazione dell'IA devono essere sorvegliati per evitare derive nei modelli e adattati ai cambiamenti nei pattern linguistici. Anche il consumo di risorse va gestito con attenzione, poiché un'analisi continua supportata dall'IA su larga scala comporta costi reali. Questi non sono problemi da risolvere al momento del lancio, ma responsabilità operative quotidiane.
Il valore più duraturo di un sistema di monitoraggio ben progettato non risiede in un singolo risultato, che si tratti di un'indagine specifica, di un report sui trend o di materiale di contro-narrazione. Risiede nella memoria istituzionale e nell'integrazione dei flussi di lavoro che permette di consolidare nel tempo. Le organizzazioni che hanno integrato gli strumenti di monitoraggio nei loro processi editoriali, costruendo la propria attività quotidiana sulle informazioni fornite da questi sistemi, rispondono alle nuove minacce più rapidamente, con più prove e con una comprensione più ricca di come si siano evolute le narrazioni che stanno tracciando. Il bagaglio di conoscenze che si accumula in un sistema ben gestito diventa, col tempo, un vantaggio competitivo nel più ampio ecosistema dell'informazione.
Il tuo feedback è importante
Cosa ne pensi di questo testo? Dedica 30 secondi per condividere il tuo feedback e aiutarci a creare contenuti significativi per la società civile.
Note e Disclaimer
Questa risorsa è stata creata nell'ambito del progetto AI for Social Change del Digital Activism Program di TechSoup, con il supporto di Google.org.
L'autrice ha utilizzato l'IA per creare questo contenuto. Tuttavia, l'intero articolo è stato ideato, revisionato e verificato dall'autrice e dal team di TechSoup.
Gli strumenti di IA si evolvono rapidamente e, sebbene facciamo il possibile per garantire l'accuratezza dei contenuti, alcuni elementi potrebbero non essere più aggiornati. Se noti informazioni superate, segnalacelo all'indirizzo contact@hive-mind.community