Questa è la prima parte della guida "La roadmap per un'IA responsabile per OSC". Per leggere l'introduzione, clicca qui.
Cosa produce la fase OSSERVARE:
Tensioni emerse (attraverso colloqui o riflessioni)
Un inventario iniziale dell'IA (quali strumenti sono utilizzati, quali dati coinvolgono, quali preoccupazioni esistono)
Una raccolta di conoscenze già disponibili (normative applicabili, valori già presenti nella vostra organizzazione, benchmark provenienti dal settore).
Tutto questo diventa materia prima per la fase CREARE.
1.1 Iniziare dalle tensioni
Il punto di partenza più incisivo è riconoscere la complessità che il vostro team sta già percependo. L'IA si colloca in uno spazio di tensione creativa: efficienza vs. autenticità, innovazione vs. sicurezza, accesso vs. privacy. Queste tensioni non sono problemi da risolvere, ma porte d'accesso ai vostri valori.
Due approcci:
Opzione A: Colloqui prima della sessione
Una persona conduce brevi colloqui con i membri del team prima della sessione di gruppo. Ponete individualmente le 5 domande, ascoltate i modelli ricorrenti e presentate al gruppo una sintesi degli insight durante la sessione CREARE. Si tratta di un esercizio di ascolto profondo prima della creazione collaborativa. Questo approccio è valido in particolare quando:
Volete far emergere preoccupazioni sincere che le persone potrebbero non condividere in gruppo
Avete stakeholder eterogenei con prospettive diverse
Volete che la sessione CREARE si concentri sulla sintesi piuttosto che sulla scoperta iniziale
Opzione B: Direttamente durante la sessione
Riunite il team e affrontate insieme le 5 domande durante la sessione CREARE. Lasciate del tempo per la riflessione individuale prima della discussione di gruppo. Questo approccio risulta valido in particolare per i team più piccoli o quando sviluppare una comprensione condivisa è importante quanto il contenuto stesso.
Questo approccio è valido in particolare quando:
Il vostro team è piccolo e sicuro dal punto di vista psicologico
La scoperta condivisa è parte dell'obiettivo
Il tempo per il lavoro preparatorio è limitato
Le 5 domande:
Che vengano raccolte in anticipo o esplorate dal vivo, queste domande fanno emergere la materia prima dei vostri principi:
1. Il nostro rapporto con l'IACome team, quali emozioni emergono quando pensiamo all'IA?
Non saltate questo punto. Le persone sono entusiaste? Ansiose? Curiose? Sopraffatte? Scettiche? Date un nome a questi sentimenti. Annotateli. Va bene anche se sono complessi e contraddittori. Non si tratta di seduta di terapia, ma di comprendere il contesto. Non è possibile discutere in modo significativo dei principi se non si comprende il panorama emotivo in cui si opera.
2. Le nostre speranze Qual è il risultato più positivo che speriamo di ottenere con l'IA?
Cosa diventa possibile che prima non lo era? Quali problemi potremmo risolvere? Cosa potremmo fare meglio, più velocemente o con un raggio d'azione più ampio? Lasciate spazio ai sogni in questa fase. Questa è l'energia della "stella polare", l'attrazione verso ciò che volete costruire.
3. Le nostre paure Qual è il danno che siamo più determinati a prevenire?
Se tutto andasse storto, cosa succederebbe? Qual è il risultato che vi farebbe dire: "Non avremmo mai dovuto farlo"? Qual è la vostra linea rossa, il confine che non site assolutamente disposti a superare? Riuscite a descrivere un uso specifico dell'IA che apparirebbe profondamente sbagliato per un'organizzazione come la vostra, anche se fosse tecnicamente efficace? Quale sarebbe un limite etico da non oltrepassare?
Questa è l'energia dei "guardrail", il riconoscimento di ciò da cui è necessario proteggersi.
4. I nostri valori non negoziabili Osservando i valori già esistenti della nostra organizzazione, qual è il più importante da preservare mentre adottiamo l'IA?
La maggior parte delle organizzazioni ha già dei valori dichiarati. Quale di questi appare più a rischio nel contesto dell'IA? Quale deve guidare tutto il resto?
Quale parte del vostro lavoro dovrebbe sempre rimanere completamente umana, dove l'assistenza dell'IA andrebbe a indebolire anziché a migliorare ciò che fate? Che cosa dovrebbe essere protetto dall'automazione?
Questo collega i principi di IA all'identità della vostra organizzazione.
5. La nostra stella polare Se potessimo scegliere solo 3-5 principi da seguire nel nostro lavoro sull'IA, quali sarebbero e perché?
Piantate questo seme fin dall'inizio. Ci tornerete con più informazioni nella fase CREARE.
Cosa registrare:
Documentate tutto: le tensioni specifiche che vengono nominate, le paure, le speranze, i modelli ricorrenti. Quando certe parole o espressioni, come "autenticità" o "fiducia della comunità", si ripetono, è un segnale che indirizza verso i vostri principi.
1.2 Avviare l'inventario dell'IA
Quando farlo: se possibile, prima della sessione di gruppo. Una persona o un piccolo gruppo può predisporre una prima bozza dell'inventario, che verrà poi validata e ampliata insieme all'intero team durante la sessione CREARE.
→ Usate la scheda Inventario dell'IA nel foglio di lavoro Identifica | Definisci i principi di IA per registrare gli strumenti e le preoccupazioni della vostra organizzazione in materia di IA.
Perché è importante:
Rende la conversazione concreta (non principi astratti, ma "questi sono gli strumenti che utilizziamo")
Fa emergere le tensioni in modo organico (l'inventario mette in luce i punti in cui l'organizzazione si sente incerta)
Fornisce la materia prima per l'identificazione dei principi (gli strumenti e i loro rischi indicano quali principi sono più importanti)
Porta allo scoperto la "IA ombra", ovvero gli strumenti che i membri del team utilizzano in modo informale senza l'approvazione dell'organizzazione
Struttura dell'inventario:
Figura 1: Il contenuto di questa tabella è un esempio, lo potete trovare insieme alla tabella modificabile qui
Importante: Uno strumento di IA non ha uno stato permanente. Lo stato è il risultato della combinazione Strumento + Caso d'uso + Sensibilità dei dati. Valuta sempre il compito specifico prima di iniziare.
Categorie di stato:
🟢 Verde: consentito
🟡 Giallo: usare con cautela; consentito SOLO se si seguono specifici guardrail
🔴 Rosso: vietato. Non utilizzare.
⚪ Grigio: lista dei desideri / fase esplorativa.
Livelli di sensibilità dei dati:
Pubblico: nessuna preoccupazione rispetto all'esposizione
Interno: destinato esclusivamente all’uso dell’organizzazione
Riservato: accesso limitato; contiene informazioni sensibili dell'organizzazione
Altamente sensibile: contiene dati personali, informazioni sui beneficiari o contenuti protetti dalla legge
Suggerimento di facilitazione: quando raccogliete informazioni sull'inventario, create un clima di fiducia che favorisca una condivisione sincera. Spesso le persone utilizzano strumenti di IA che senza averlo dichiarato perché non sono sicure che sia "consentito". Meccanismi di raccolta anonima dei contributi possono aiutare a far emergere l'uso dell'IA ombra.
Conservate questo inventario come documento dinamico. Potrà essere arricchito man mano che inizierete a sviluppare strutture di governance e policy nella fase CREARE.
→ La scheda Inventario dell'IA nel foglio di lavoro è progettato per essere aggiornato nel tempo. Partite da una versione semplice e aggiungete dettagli via via che la vostra comprensione si approfondisce.
1.3 Raccogliere le conoscenze già disponibili
Quando farlo: Prima della sessione di gruppo. Una persona può raccogliere queste informazioni e presentarle durante la riunione CREARE, affinché il team disponga di una base condivisa su cui lavorare.
Cosa raccogliere:
I valori e i principi già presenti nella vostra organizzazione
Dichiarazione di missione, piano strategico, codice etico
Eventuali politiche tecnologiche o dei dati già esistenti
Dichiarazioni di valori presenti nei vostri documenti fondativi
Impegni assunti nei confronti di finanziatori, partner o comunità
Chiedetevi: in che modo questi valori già esistenti potrebbero essere applicati all'IA?
Il vostro panorama normativo
Quali regolamentazioni si applicano al vostro contesto? (Legge UE sull'IA, RGPD, requisiti specifici del settore)
Quali aspettative hanno i finanziatori in merito all'uso dell'IA o alla protezione dei dati?
Cosa si aspetta la vostra comunità?
Esistono standard professionali nel vostro settore?
Per le OSC europee, i principi chiave della legge UE sull'IA includono la supervisione umana, la trasparenza, la qualità dei dati e la non discriminazione. Anche al di fuori dell'UE, questi quadri normativi rappresentano utili punti di riferimento.
→ Vedi la sezione Allineamento tra la legge UE sull'IA e i principi (scheda Principi di IA responsabile più comuni) nel foglio di lavoro scaricabile (foglio di lavoro Identifica | Definisci i principi di IA) per capire quali principi hanno un fondamento normativo.
Benchmark provenienti dal settore
Dal 2019 una comunità globale lavora allo sviluppo di principi di IA responsabile. Non è necessario effettuare ricerche su tutto questo da soli: abbiamo compilato per voi i framework e gli esempi più rilevanti.
→ Vedi la risorsa Benchmark dei principi di IA responsabile per consultare esempi di organizzazioni orientate a una missione, tra cui Khan Academy, ChangemakerXchange, Common Sense Media e altre.
→ Vedi la scheda I principi di IA responsabile più comuni nel foglio di lavoro scaricabile (foglio di lavoro Identifica | Definisci i principi di IA) per le definizioni dei principi più citati nei framework di UE, OCSE, UNESCO e NIST.
Risultato atteso:
Un documento riassuntivo o una breve presentazione da portare alla sessione CREARE, che includa:
una sintesi delle regolamentazioni rilevanti per il vostro contesto
i valori già esistenti della vostra organizzazione (con note sulla rilevanza rispetto all'IA)
La scheda di riferimento con i principi comuni (fornito)
1-2 esempi di organizzazioni simili che rispecchiano la vostra missione
L'obiettivo non è diventare esperti in ogni framework esistente, bensì disporre di un contesto sufficiente affinché il team possa compiere scelte informate su quali principi siano realmente più importanti per la vostra organizzazione. Le risorse che forniamo svolgono gran parte del lavoro pesante. Il vostro compito è portare la prospettiva unica della vostra organizzazione.
Proseguite la guida con Parte 2: CREARE - Identificare e definire i propri principi, per imparare a individuare i principi di IA più rilevanti per la tua OSC, e con Parte 3: Mettere in pratica, per scoprire come individuare i principi sull’IA più rilevanti per la vostra OSC.
Il tuo feedback è importante
Cosa ne pensi di questo testo? Dedica 30 secondi per condividere il tuo feedback e aiutarci a creare contenuti significativi per la società civile.
Modulo di feedback in arrivo!
Questo articolo inaugura a serie "La roadmap per un'IA responsabile per le OSC", sviluppata nell'ambito del progetto AI for Social Change del Digital Activism Program di TechSoup, con il supporto di Google.org.