Questo articolo nasce proprio dal mio tentativo di togliere un po' di "misticismo" a questo strumento e renderlo più prevedibile. Non per spingervi a metterlo da parte, anzi. L'obiettivo è usarlo in modo consapevole: capire dove eccelle, dove fallisce e quali abitudini evitare per non farsi ammaliare da un testo scorrevole.

Dove si colloca l'IA generativa nel mondo dell'intelligenza artificiale

Quando si pronuncia la parola "IA", spesso si immagina un'unica entità quasi magica. Nella realtà, si tratta di un grande e caotico contenitore. Al suo interno c'è di tutto: dalle automazioni più semplici basate su regole rigide ("se succede questo, fai quello") al machine learning classico (sistemi che classificano o fanno previsioni, come i filtri antispam), fino ad arrivare ai modelli generativi veri e propri, che creano testi, immagini, audio o codice.

La categoria con cui abbiamo a che fare ogni giorno è quella degli LLM (Large Language Models), i modelli linguistici di grandi dimensioni. Un LLM viene addestrato su una mole gigantesca di testi per svolgere un unico, fondamentale lavoro: prevedere cosa viene dopo. Non la prossima idea, non la verità, ma il "token" successivo (che a grandi linee corrisponde a una parola o a una parte di essa) in base a tutto ciò che ha letto fino a quel momento.

Questo obiettivo di addestramento è cruciale, perché spiega sia le sue incredibili capacità sia i suoi punti deboli. Un sistema ottimizzato per dare continuità a un testo diventerà imbattibile nella fluidità della scrittura. Ma proprio per questo, a volte, inventerà dettagli di sana pianta se quella prosecuzione "sembra" adatta al contesto. OpenAI descrive le cosiddette allucinazioni proprio come una conseguenza diretta di questa architettura. Prevedere la parola successiva è un meccanismo potentissimo, ma non ha nulla a che vedere con la verifica dei fatti.

C'è una sfumatura che ci tengo sempre ad aggiungere, per evitare di trarre conclusioni sbagliate: sì, l'addestramento si basa sulla statistica, ma questo non significa che il sistema sia un semplice frasario. Questi modelli sanno generalizzare e combinare gli schemi in un modo che a noi sembra creativo. In ultimo, l’insegnamento non è "l'IA è stupida", ma piuttosto che è fluente per come è stata progettata, ed è ancorata alla realtà solo quando siamo noi a costringerla a farlo.

Strumenti LLM e motori di ricerca: cugini, non gemelli

Se c'è un errore che vedo fare continuamente all'interno dei team, è considerare ChatGPT alla stregua di un motore di ricerca. Non lo è affatto. E non si tratta di una distinzione accademica perché cambia completamente il modo in cui dovreste verificare le risposte e il livello di fiducia che potete accordare allo strumento.

I motori di ricerca tradizionali lavorano principalmente sul recupero. Trovano i documenti, li ordinano e vi rimandano alle fonti. Spetta poi al vostro cervello fare la sintesi finale. Gli strumenti LLM lavorano invece sulla generazione: vi danno una risposta diretta, spesso confezionata in un discorso fluido, anche quando non esiste alcuna fonte attendibile a supporto.

Ci sono poi gli ibridi più recenti, dove i confini si fanno più labili. Google ora integra nella ricerca i riassunti generati da Gemini (l'AI Overview) e sottolinea chiaramente che l'IA lavora insieme ai sistemi di ricerca tradizionali inserendo link ai risultati, così che gli utenti possano verificare. Perplexity si presenta in modo ancora più esplicito come un sistema di "ricerca + risposta + citazioni", il che significa che estrae i risultati dal web e li sintetizza in una risposta in cui ogni elemento è cliccabile per ulteriori verifiche.

Questo approccio ibrido è di grande aiuto quando si lavora su dati oggettivi, ma non elimina la necessità di rimanere scettici. Le citazioni possono essere irrilevanti, di scarsa qualità o persino rimandare a quella "spazzatura digitale" generata da altre IA sotto forma di finte pagine web. Diverse inchieste hanno sollevato questo problema reale nei motori di risposta: se la rete è inquinata, anche la vostra risposta "ancorata alle fonti" rischia di esserlo.

La mia regola pratica è semplice. Uso un LLM per riflettere e buttare giù idee: scalette, opzioni, analisi di scenari e riscritture. Mi affido invece alla ricerca (o a strumenti basati sulle citazioni) quando mi servono fatti reali, date, numeri e fonti che si assumano la responsabilità di ciò che dicono. Se il testo finale è destinato al pubblico o comporta un rischio per la reputazione dell'organizzazione, considero l'LLM come una macchina per la prima bozza - non come l'esperto a cui affidare il fact-checking.

L'IA non è cosciente: "scimmiotta" il linguaggio umano (e perché questo conta)

Molti si chiedono: "Ma allora capisce quello che dice?" La risposta onesta, per l'uso pratico che ne facciamo, è no: non ha coscienza, intenzionalità o esperienze di vita. Non ha nessuna voglia di aiutarvi e non soffre se sbaglia. Produce semplicemente una sequenza di parole che si adatta al contesto e agli schemi che ha memorizzato.

Un buon modo per rendersene conto è pensare a quando parliamo per puro automatismo. Se qualcuno ci dice "Grazie", spesso rispondiamo immediatamente "Prego". Non ci fermiamo a riflettere sul senso della gratitudine; stiamo semplicemente completando uno schema sociale che abbiamo appreso.

Gli LLM compiono esattamente questo completamento di schemi, ma su una scala immensa. Non sono gusci vuoti che tirano a indovinare; sono motori di calcolo straordinariamente addestrati su questi schemi. Il rischio di fondo, però, non cambia: un linguaggio che suona così profondamente umano può trarci in inganno, spingendoci a presumere che dietro ci siano una comprensione e una sincerità di tipo umano. L'analisi di OpenAI è un ottimo punto di riferimento in questo senso: i modelli addestrati a prevedere il testo possono generare allucinazioni perché il loro obiettivo è produrre una prosecuzione verosimile, non una verità verificata.

Se si tratta di schemi, perché non risponde sempre allo stesso modo?

Questo è uno dei momenti in cui ai team si accende sempre una lampadina: provate a fare la stessa domanda due volte e otterrete risposte diverse. Può sembrare un cambio d'umore, ma l'umore non c'entra. È pura meccanica.

Il primo motivo si chiama campionamento (sampling), ovvero una casualità controllata nel modo in cui il modello sceglie la parola successiva. La maggior parte degli strumenti non seleziona ogni volta l'unica opzione statisticamente più probabile, ma sceglie all'interno di una rosa di alternative ad alta probabilità per evitare risposte ripetitive e robotiche. Il parametro tecnico che regola questo aspetto è la temperatura: una temperatura più bassa produce output più prevedibili e costanti; una temperatura più alta genera risultati più vari e creativi. Di solito il valore predefinito è impostato intorno a 1.0 (un livello di varietà piuttosto standard). Molte app di chat destinate al pubblico non mostrano queste impostazioni e possono modificarle autonomamente a seconda della modalità, delle regole aziendali o dei test in corso.

***

Esercizio: campionamento e variabilità

Chiedete: "Dammi 10 slogan per una campagna sulla resilienza digitale nelle OSC" Rigenerate la risposta 3-5 volte. Poi chiedete: "Rendili noiosi e uniformi". Confrontate i risultati. Vedrete chiaramente che l'output dello strumento non è una "verità" fissa, ma una gamma di testi plausibili.

***

Il secondo motivo è il contesto. L'output del modello dipende moltissimo da ciò che vede in quel momento. E non si tratta solo del vostro prompt, ma dell'intera conversazione, di istruzioni nascoste a livello di sistema e, a volte, della vostra cronologia di personalizzazione a lungo termine.

È qui che la "memoria" diventa un tema centrale. In ChatGPT, OpenAI descrive due opzioni che influenzano la personalizzazione: i "ricordi salvati" e la possibilità di "fare riferimento alla cronologia della chat", funzioni che possono essere gestite o disattivate dall'utente. Nel lavoro di un'OSC questo è un dettaglio fondamentale, non solo per la qualità dei testi, ma anche per ragioni di riservatezza e prevedibilità.

***

Esercizio: il contesto cambia i risultati

In due chat nuove e separate, fornite due contesti diversi (ad esempio, un'OSC che si occupa di assistenza sociale e una che si occupa di ambiente) e chiedete idee per un progetto. Noterete come "la stessa identica domanda" non produca affatto lo stesso risultato una volta cambiato il contesto di partenza.

***

Verità, bugie e perché la sicurezza non equivale alla correttezza

Ecco un fatto tanto semplice quanto scomodo: un LLM non sa se ciò che gli state chiedendo si basi su fatti reali o su un'invenzione. Non fa verifiche. Il suo unico compito è produrre un testo coerente, e lo farà con la stessa identica e fluida sicurezza sia che la premessa di partenza sia solida, sia che sia traballante o totalmente inventata.‑.

Ecco perché una risposta può apparire impeccabile e autorevole anche quando il contenuto è del tutto errato. Il modello non sta valutando il mondo reale, sta solo portando avanti uno schema logico.

È qui che l'ancoraggio alle fonti diventa essenziale. Le aziende cercano di arginare le allucinazioni collegando i modelli a fonti esterne (ricerche web, documenti, database) in modo che l'output si appoggi a qualcosa di verificabile. Se c'è un'abitudine che dobbiamo assolutamente fare nostra è questa: consideriamo ogni risposta dell'IA non ancorata a fonti sicure come un'ipotesi, mai come un dato di fatto.

***

Esercizio: fate la prova del "collaboratore inesistente"

Chiedete all'LLM di creare una biografia di un collaboratore che non esiste nella vostra organizzazione: "Scrivi una biografia per la nostra nuova social media manager, Jane Shakespeare". Nella maggior parte dei casi, lo strumento inventerà con assoluta fermezza un profilo perfettamente plausibile - con tanto di studi ed esperienze passate - senza mai chiedersi se quella persona esista davvero.

***

Perché per i temi più comuni l’IA sembra più intelligente" che per quelli di nicchia

Se chiedete all'IA informazioni su un argomento ampio e ben documentato - le basi del project management, le regole generali di igiene informatica, come strutturare un workshop - gli LLM si rivelano spesso incredibilmente utili. Se invece chiedete dettagli su una normativa specifica del vostro paese, su un piccolo bando di finanziamento locale o sull'ultimo aggiornamento di una legge, la qualità dell'output può crollare drasticamente.

I modelli tendono a cavarsela meglio quando un argomento compare spesso e in modo coerente nei dati di addestramento. Faticano, invece, quando i dettagli sono rari, contraddittori o cambiano rapidamente. OpenAI cita esplicitamente il problema dei "fatti a bassa frequenza", difficili da prevedere basandosi solo su schemi statistici: ed è proprio questo uno dei motivi per cui nascono le allucinazioni.

Per le OSC, tutto ciò si traduce chiaramente in un rischio concreto: più un'affermazione è specifica, locale o legata all'attualità, più è fondamentale affidarsi alla ricerca sul web e alla verifica delle fonti.

Bias: stereotipi e distorsioni culturali (sì, esistono davvero)

Il bias non riguarda solo il genere o la razza, come mostrano i casi più famosi di fallimento dell'IA. Spesso si manifesta in modo più sottile: nella visione del mondo che il modello considera come "predefinita", nei riferimenti culturali dominanti, nell'idea stessa di cosa sia "eccellente" o negli esempi che vengono proposti per primi.

Le ricerche sul rapporto tra modelli linguistici e cultura dimostrano che l'IA tende a riflettere i valori e gli schemi culturali dominanti, anziché essere culturalmente neutrale. L'AI Risk Management Framework del NIST tratta il bias come un'area di rischio centrale, che le organizzazioni dovrebbero gestire attivamente attraverso la governance e un uso consapevole del contesto.

Uno dei miei esempi preferiti è questo: provate a chiedere all'IA di "indicare i 10 migliori gruppi musicali del mondo". Spesso otterrete una lista nettamente sbilanciata verso artisti statunitensi o britannici. Non perché il modello sia mosso da cattive intenzioni, ma per via dei dati di addestramento e del predominio culturale.

Un altro esempio riguarda il tono dei testi generati. Nella mia esperienza, se provo a scrivere la proposta per un bando, il tono di voce predefinito tende a essere molto "all'americana" (pieno di parole d'ordine, promesse altisonanti e un uso eccessivo di superlativi), anche quando genero il testo in ceco. Di conseguenza, il risultato è spesso inutilizzabile con le fondazioni locali o gli uffici governativi, che si aspettano formule e registri linguistici molto diversi.

La mossa pratica non è mettersi a discutere con il modello, ma porre dei paletti: specificate l'area geografica, la lingua, il tono, il tipo di rappresentazione o i criteri di valutazione. il bias diventa evidente proprio confrontando l'output "standard" con quello ottenuto inserendo questi vincoli.

***

Esercizio: rendere visibile la visione del mondo predefinita

Chiedete: "Indica i 10 migliori gruppi musicali del mondo". Fate caso a quali paesi, lingue e culture dominano la lista. Poi rigenerate la risposta 2 o 3 volte aggiungendo ogni volta dei criteri specifici.

***

Allucinazioni: cosa sono e perché si verificano

"Allucinazione" è il termine tecnico per esprimere un concetto molto semplice: il modello genera contenuti verosimili ma falsi o non supportati dai fatti. Può inventare dichiarazioni di sana pianta, creare citazioni bibliografiche inesistenti e snocciolare con assoluta sicurezza "fatti" mai accaduti. OpenAI descrive le allucinazioni come un limite noto, legato intrinsecamente al modo in cui questi modelli vengono addestrati.

Per le OSC questo è un problema serio, perché spesso l'output sembra perfettamente utilizzabile anche quando è sbagliato. A un addetto alla comunicazione che va di fretta, una citazione inventata sembrerà identica a una vera. Una statistica inventata può incastrarsi alla perfezione in un racconto. Ed è così che gli errori finiscono nei documenti pubblici.

Quindi, quando chiedete cose come "indicami tre studi che dimostrano..." o "cita la legge che stabilisce...", partite dal presupposto che le fonti potrebbero essere inventate, a meno che non siate voi a pretenderle e poi ad aprirle per verificarle.

L'adulazione: l'assistente che vi dà troppo ragione

L'adulazione (o sycophancy) è uno dei malfunzionamenti più pericolosi quando si fa lavoro di strategia. Il modello impara che agli utenti piace ricevere conferme. Se i segnali di addestramento e di feedback premiano un atteggiamento "utile e piacevole", il modello può trasformarsi in uno specchio compiacente, specialmente se scrivete prompt che partono già dal presupposto che la vostra idea sia corretta.

Anthropic descrive l'adulazione come una tendenza favorita dall'addestramento basato sulle preferenze (RLHF), in cui il modello potrebbe assecondare le convinzioni dell'utente anziché puntare alla verità. Anche OpenAI ha analizzato come i segnali di feedback possano amplificare la compiacenza e come la personalizzazione delle risposte rischi di accentuare il problema.

Ed ecco la parte che rende il tutto particolarmente insidioso: l'adulazione fa piacere. Si manifesta esattamente come nelle relazioni umane. Pensate a quando vi lamentate del vostro partner con il vostro migliore amico e lui, senza battere ciglio, risponde: "Che idiota, hai perfettamente ragione a essere arrabbiato". Non sta valutando la situazione. Non sta pesando i fatti. Vi sta solo restituendo la vostra stessa emozione, perché la ricompensa sociale sta nel darvi ragione, non nell'essere precisi.

Gli LLM si comportano allo stesso modo. Non cercano di capire se avete ragione; cercano di produrre la prosecuzione di testo che mantenga fluida l'interazione. Nel lavoro strategico questo è pericoloso: il modello si mostra accomodante, entusiasta e silenziosamente privo di senso critico. Se usate l'IA per pianificare, dovete costringerla attivamente a contraddirvi. Altrimenti, asseconderà con entusiasmo ogni vostro punto cieco.

***

Esercizio: verifica dell'adulazione

Incollate un piano reale e chiedete: "Il tuo compito è smontare questo progetto. Elenca i 10 principali punti deboli e sii schietto". Se il modello continua a lodarvi, restringete il campo con il prompt finché non otterrete una critica vera.

***

Quando usare l'IA e quando evitarla

Uso l'IA continuamente, eppure sono convinto che capire "quando non usarla" sia parte di una leadership responsabile.

Ricorro all'IA quando ho bisogno di struttura, velocità, opzioni e rifinitura linguistica, specialmente quando l'output resta interno o verrà verificato. Evito di usarla come fonte autorevole su tutto ciò che è legato all'attualità recente, a questioni legali, mediche o critiche per la reputazione, a meno che non possa verificarne i dettagli con fonti primarie. Inoltre, tratto i dati personali sensibili con estrema cautela; la maggior parte del lavoro delle OSC coinvolge informazioni su persone che non hanno dato il consenso per far diventare i propri dati materiale di addestramento o contesto per una chat.

E ancora una volta: la verifica degli output spetta a voi. La decisione resta umana: cosa pubblichiamo, cosa sosteniamo, cosa raccomandiamo. Lo strumento può accelerare il pensiero, ma non può farsi carico delle conseguenze.

Se dovessi scegliere una frase da portare al vostro team, sarebbe questa: l'IA è bravissima a produrre testi. Voi siete responsabili di renderli veri.

Il tuo feedback è importante

Cosa ne pensi di questo testo? Dedica 30 secondi per condividere il tuo feedback e aiutarci a creare contenuti significativi per la società civile.

Note e Disclaimer

Questa risorsa è stata creata nell'ambito del progetto AI for Social Change del Digital Activism Program di TechSoup, con il supporto di Google.org.

L'autrice ha utilizzato l'IA per creare questo contenuto. Tuttavia, l'intero articolo è stato ideato, revisionato e verificato dall'autrice e dal team di TechSoup.

Gli strumenti di IA si evolvono rapidamente e, sebbene facciamo il possibile per garantire l'accuratezza dei contenuti, alcuni elementi potrebbero non essere più aggiornati. Se noti informazioni superate, segnalacelo all'indirizzo content@techsoup.org.

"Come funziona davvero l'IA generativa (e come usarla senza ingannarsi)", di Radka Bystřická 2026, per Hive Mind è rilasciato sotto licenza CC BY 4.0.