Prima di addentrarvi in questa parte, assicuratevi di aver letto l'articolo Come la società civile può condurre verso un'IA responsabile, l'Introduzione a questa Guida pratica, la Parte 1: OSSERVARE - Preparare il terreno, la Parte 2: CREARE - Identificare e definire i propri principi, e la Parte 3: Mettere in pratica.
Una program officer di un'organizzazione non profit ambientalista di medie dimensioni ha chiesto a un collega: "Va bene se uso ChatGPT per scrivere le bozze delle comunicazioni destinate ai nostri beneficiari?"
Il collega ha alzato le spalle. "Credo di sì? Forse conviene chiedere all'IT?"
L'IT ha risposto: "Non spetta a noi decidere. Prova con il direttivo, che dici?"
Il direttivo ha detto: "Probabilmente dovremmo avere una linea guida in merito. Ti va di approfondire la questione?"
La program officer è tornata alla sua scrivania. Aveva del lavoro da fare. E alla fine ha usato comunque ChatGPT.
È esattamente qui che la governance dell'IA si arena: non per via di principi sbagliati, ma perché non è chiaro di chi sia la responsabilità.
Se avete seguito il primo articolo di questa serie, avete fatto un lavoro importante. Avete riunito il vostro team, fatto emergere le tensioni, e identificato i principi che guideranno il percorso della vostra organizzazione con l'IA. Forse li avete anche messi per iscritto, condivisi e accolti con entusiasmo.
E ora? Avete completato la fase OSSERVARE e state entrando in quella CREARE: lo spazio collaborativo in cui i principi prendono forma e struttura.
Perché la responsabilità conta, e perché conta adesso
Nelle organizzazioni della società civile, l'adozione dell'IA sta correndo molto più velocemente della governance. All'interno del vostro team c'è già chi usa questi strumenti: di alcuni utilizzi siete al corrente, di molti altri no. Senza un responsabile, ogni giorno che passa porta con sé decisioni incoerenti, rischi crescenti e principi che restano solo sulla carta.
La scomoda verità è che quando "tutti sono responsabili", in realtà non lo è nessuno.
La vostra governance è già a rischio se:
Il documento dei vostri principi non ha dei “custodi” designati
I team usano frasi come "Immagino che qualcuno lo abbia approvato"
Nessuno sa a chi rivolgersi quando si affronta uno scenario poco chiaro
Settori diversi dell'organizzazione prendono decisioni contraddittorie sull'IA.
Per le OSC con risorse limitate, questa ambiguità si paga a caro prezzo. Non potete permettervi di duplicare gli sforzi, di inviare messaggi incoerenti alle comunità che servite o di subire un danno d'immagine causato da un passo falso fatto utilizzando 'IA. Fare chiarezza non significa fare burocrazia: significa sopravvivere.
Governance e principi: un dialogo parallelo
C'è una lezione che ho imparato guidando le organizzazioni in questo percorso: non aspettate che i principi siano "definitivi" prima di decidere chi se ne prenderà cura.
Il confronto sulla governance deve viaggiare in parallelo con la definizione dei principi, non essere rimandato a un secondo momento. Il motivo è semplice: chi avrà la responsabilità di gestire la governance dell'IA deve partecipare alla creazione dei principi stessi. Solo così potrà comprenderne a fondo i nodi, i compromessi e le ragioni dietro a ogni singola scelta.
Spesso si passano mesi a elaborare principi impeccabili sulla carta, per poi bloccarsi al momento di redigere la policy. Se mancano i custodi, manca chi porta avanti il processo.
Definire l'organo di governance fin dall'inizio, anche solo in modo provvisorio, permette di iniziare a esercitare questa responsabilità fin da subito: gestendo il confronto sui principi, raccogliendo i feedback e allenando il team a prendere decisioni condivise. Quando arriverà il momento di redigere la policy vera e propria, il gruppo avrà già sviluppato la fiducia e il ritmo di lavoro necessari.
Come si presenta la responsabilità: l'Albero che accoglie il dialogo
Immaginate un albero nella piazza di un villaggio. Le persone si radunano e parlano sotto la sua ombra. L'albero non interviene, ma offre lo spazio in cui discutere le cose importanti.
Questo è il modello di responsabilità nella governance dell'IA: "l'Albero", ovvero un piccolo gruppo di persone che custodisce lo spazio per un confronto continuo sull'IA all'interno dell'organizzazione. Non fanno tutto loro, né prendono ogni decisione da soli. Rappresentano il fulcro, lo spazio sicuro e la presenza stabile che garantisce la continuità del dialogo. Il ruolo dell'Albero è di tutela, non di controllo.
In pratica, "l'Albero" è:
Il primo punto di riferimento a cui rivolgersi quando si hanno dubbi o domande sull'IA, un canale chiaro che prima non esisteva.
Il centro di raccolta delle esperienze di tutta l'organizzazione: cosa funziona, cosa crea confusione e cosa comporta rischi.
La garanzia che gli impegni presi nei principi vengano rispettati non solo all'inizio, ma nel tempo.
Lo spazio che mantiene vivo il dialogo, evitando che l'IA diventi un argomento tabù o da gestire in solitudine.
Il filo conduttore che unisce i vari team, permettendo di intercettare dinamiche e schemi ricorrenti che altrimenti nessuno noterebbe.
La memoria storica dell'organizzazione su decisioni passate e motivazioni, per evitare di ripartire da zero ogni volta.
Come funziona tutto questo nella realtà? Le organizzazioni che gestiscono al meglio la governance dell'IA non inventano processi astrusi, ma inseriscono questa responsabilità nei loro normali ritmi di lavoro.
La Khan Academy dimostra proprio come la governance possa diventare un'abitudine. Un gruppo di coordinamento per l'IA responsabile (Responsible AI Steering Group) composto da figure dirigenziali dei settori Prodotto, Dati e Ricerca sugli utenti, garantisce l'allineamento strategico. Un gruppo di lavoro allargato (Responsible AI Extended Working Group) valuta le funzionalità in arrivo e monitora quelle già attive. L'analisi dei rischi è integrata direttamente nella progettazione dei prodotti attraverso demo e feedback continui con gli stakeholder. La governance dell'IA non è un carico di lavoro in più, ma il loro solito modo di lavorare applicato a un nuovo ambito.
ChangemakerXchange (CXC), una rete globale di imprenditori sociali, offre un modello perfetto per le realtà più piccole. Il loro gruppo di custodia dell'IA (AI Stewardship Circle) è un piccolo team dedicato che vigila sull'applicazione del loro Mindful AI Manifesto and Policy. Nel quotidiano, i membri del gruppo sono i primi a cui rivolgersi per qualsiasi dubbio sull'IA. Raccolgono idee, successi e incertezze del team, assicurandosi che i principi vengano vissuti nella pratica di ogni giorno e non restino solo teoria.
Sul piano operativo, il gruppo si occupa di aggiornare i documenti due volte l'anno, guida le valutazioni d'impatto sui nuovi flussi di lavoro e sottopone le decisioni più importanti o controverse a tutto il team. Un dettaglio interessante: il gruppo può aprirsi anche a un membro della comunità o a un esperto esterno, arricchendo la governance di nuove prospettive.
Entrambi gli esempi portano a una conclusione fondamentale: la governance deve essere un innesto naturale, non un trapianto forzato. Le fondamenta sono i vostri attuali processi decisionali, i vostri stili comunicativi e la struttura del vostro team. Prima di progettare qualcosa di nuovo, chiedetevi: Come prendiamo di solito le decisioni importanti?
L'errore più grave è imporre una struttura di governance estranea alla cultura dell'organizzazione. Verrebbe rigettata come un organo non compatibile. Cercate invece il punto in cui la responsabilità sull’uso dell'IA si inserisce in modo naturale in ciò che già funziona.
Diversi modelli di responsabilità
Non esiste un'unica struttura "giusta". Il modello migliore dipende dalle dimensioni della vostra organizzazione, dalla complessità interna, dal livello di familiarità con l'IA e, soprattutto, dalla vostra cultura.
Il duo: idealmente una con competenze tecniche e una profondamente legata alla missione e ai valori dell'organizzazione. Insieme affrontano il doppio binario del "Possiamo farlo?" e del "Dovremmo farlo?" Il duo evita che una persona sola porti tutto il peso della responsabilità. È la soluzione ideale per le piccole realtà e per chi è alle prime armi con l'IA.
Il circolo: un gruppo interfunzionale di 3-7 persone che rappresenta i vari programmi, l'area operativa, la comunicazione e la dirigenza. Come il gruppo di custodia di CXC, si riunisce periodicamente e ogni volta che si devono prendere decisioni importanti. Valutate l'idea di includere un rappresentante delle comunità con cui lavorate. È il modello più indicato per organizzazioni di medie dimensioni con diversi progetti attivi.
Modello accentrato e distribuito (Hub and spoke): un punto di coordinamento centrale fornisce linee guida e standard, mentre la responsabilità dell'attuazione resta in capo ai singoli team. Il centro fornisce ai team gli strumenti per scegliere bene in autonomia. È perfetto per le organizzazioni più grandi o con strutture federate.
Iniziate con il modello più semplice, quello che rispetta davvero il vostro modo di lavorare. C'è sempre tempo per aggiungere complessità in futuro.
Le condizioni per una collaborazione efficace
Se c'è un dato emerso con assoluta chiarezza dalla pratica dell'IA responsabile, è questo: la collaborazione è il modello operativo indispensabile per fare innovazione responsabile.
L'IA tocca ogni aspetto della vita organizzativa: dati, programmi, comunicazione e relazioni con le comunità. Nessuna persona da sola possiede tutte le competenze necessarie per orientarsi al meglio. Chi si trova a gestire la governance dell'IA in solitudine finirà inevitabilmente per andare in burnout, diventare un collo di bottiglia per ogni decisione o, peggio, fare scelte strategiche senza quel confronto diversificato che l'IA responsabile esige.
Per rendere concreta la collaborazione sulle attività che richiedono più punti di vista - come l'approvazione di un nuovo strumento o la stesura di una linea guida - esiste un metodo semplice. Consiste nel mappare ogni processo stabilendo chi agisce (Responsabile dell'esecuzione), chi decide in ultima istanza (Responsabile ultimo), chi offre il proprio contributo essenziale (Consultato) e chi viene tenuto aggiornato (Informato).
Collaborare significa che più persone possono agire o venire consultate. Ma la responsabilità ultima, ovvero l'ultima parola, deve fare capo a una sola persona. Quando la responsabilità finale è condivisa, semplicemente svanisce: nessuno vuole prendersi l'onere di decidere e tutto si blocca. Avere un unico decisore non è una questione di gerarchia, ma serve a garantire che le decisioni vengano prese davvero.
Prendiamo l'esempio dell'approvazione di un nuovo strumento di IA per il coinvolgimento delle comunità. I ruoli all'interno del team verrebbero distribuiti così:
Responsabile ultimo: il coordinatore del vostro gruppo di custodia.
Responsabili dell'esecuzione: il team di programma che richiede lo strumento e un referente tecnico.
Consultati: i rappresentanti della comunità ed eventuali referenti legali o di conformità.
Informati: la dirigenza e il resto del personale
Notate come la consultazione della comunità sia integrata fin dall'inizio come un tassello essenziale, non come un elemento secondario da aggiungere in seguito.
Tuttavia, la collaborazione funziona solo se si muove all'interno della cultura giusta. Riprendendo la metafora, il vostro albero ha bisogno del terreno adatto per crescere:
Spazi sicuri e sicurezza psicologica. Ognuno, a qualsiasi livello, deve sentirsi libero di segnalare rischi legati all'IA, potenziali pregiudizi (bias) o dubbi etici, senza temere ripercussioni. Spesso le preoccupazioni che restano sotto silenzio sono proprio quelle più importanti.
Ascolto profondo e dialogo inclusivo. Gli organi di governance non possono operare isolati dal mondo. Devono cercare attivamente e valorizzare punti di vista diversi, tecnici e non tecnici, interni ed esterni. Questo include le comunità per cui lavorate, la cui esperienza diretta è un patrimonio insostituibile.
Gestione costruttiva dei conflitti. Il dibattito sull'etica dell'IA porta con sé opinioni divergenti e compromessi reali. È fondamentale saper gestire i disaccordi in modo costruttivo, cercando punti d'incontro o prendendo decisioni trasparenti e basate sui principi.
Promuovere il cambiamento a ogni livello. Una governance dell'IA efficace non cala semplicemente delle regole dall'alto; è la miccia per un'evoluzione culturale che incoraggia il pensiero critico sulla tecnologia e migliora la collaborazione tra i team.
Tradurre in pratica: lo statuto
Lo statuto non è una formalità burocratica. È l'unico documento che dà radici solide al vostro albero, definendone lo scopo, i poteri e le modalità operative.
Il vostro statuto dovrebbe rispondere a cinque domande fondamentali:
Perché esistiamo? (Il vostro mandato)
Cosa faremo? (Le responsabilità chiave, ma anche ciò che non farete)
Chi siamo? (I membri, i criteri di selezione e la durata dell'incarico)
Come decidiamo? (I processi decisionali e la gestione dei casi complessi)
Come si lavora con noi? (Il punto di riferimento per domande e dubbi)
Il modello allegato a questa guida offre una struttura già pronta da adattare. Ricordate però: il modello serve come ispirazione, non è una ricetta rigida. Il vero obiettivo è rispondere a queste domande in un modo che rispetti la cultura unica della vostra OSC.
Un invito a dare radici ai vostri principi
I principi sull'IA della vostra organizzazione sono il frutto di un lavoro vero: dialoghi onesti, tensioni emerse e impegni condivisi. Meritano più di un semplice documento. Meritano una casa.
Individuate il vostro albero. Potrebbe essere un duo pronto a portare avanti questo confronto. Potrebbe essere un piccolo gruppo di colleghi fidati. Scegliete queste persone adesso, prima ancora che i principi siano "definitivi". Lasciamo che acquisiscano familiarità con il ruolo, iniziando a fare governance proprio attraverso la stesura delle prossime policy.
I principi attendono solo di essere messi in pratica. Date loro un albero sotto cui crescere e persone che se ne prendano cura insieme.
Risorsa correlata: Tradurre in pratica: un modello di statuto per guidare la riflessione
La guida prosegue con la Parte 5: Come le OSC possono creare policy sull'IA che funzionino davvero, dedicata al processo di definizione delle regole sull'IA, e con la Parte 6: Come le OSC possono valutare i rischi dell'IA e prevenirne le conseguenze negative, per scoprire come affrontare i rischi legati a queste tecnologie.
Il tuo feedback è importante
Cosa ne pensi di questo testo? Dedica 30 secondi per condividere il tuo feedback e aiutarci a creare contenuti significativi per la società civile.
Note e Disclaimer
Questa risorsa è stata creata nell'ambito del progetto AI for Social Change del Digital Activism Program di TechSoup, con il supporto di Google.org.
L'autrice ha utilizzato l'IA per creare questo contenuto. Tuttavia, l'intero articolo è stato ideato, revisionato e verificato dall'autrice e dal team di TechSoup.
Gli strumenti di IA si evolvono rapidamente e, sebbene facciamo il possibile per garantire l'accuratezza dei contenuti, alcuni elementi potrebbero non essere più aggiornati. Se noti informazioni superate, segnalacelo all'indirizzo contact@hive-mind.community
Informazioni sull'autrice
Ayşegül Güzel è Responsible AI Governance Architect, ossia un'esperta di progettazione di governance per un utilizzo responsabile dell'AI, e aiuta le organizzazioni a trasformare l'ansia da IA in sistemi affidabili e degni di fiducia. La sua carriera unisce ruoli di vertice nel settore sociale - tra cui la fondazione di Zumbara, la più grande rete di banche del tempo al mondo - a una solida esperienza tecnica maturata come auditor IA certificata ed ex data scientist. Accompagna le organizzazioni attraverso percorsi completi di trasformazione della governance dell'IA e conduce audit tecnici sull'intelligenza artificiale. Insegna presso ELISAVA e interviene a livello internazionale su approcci alla tecnologia incentrati sull'uomo. Per saperne di più: https://aysegulguzel.info oppure iscriviti alla sua newsletter AI of Your Choice su https://aysegulguzel.substack.com.