Questa è la seconda parte della guida "La roadmap per un’IA responsabile per le OSC" . Per saperne di più, leggete l'articolo "Dalla tensione al principio: come le OSC possono guidare verso un'IA responsabile", l'introduzione alla guida (con il calendario di pubblicazione di ciascuna delle parti), e la Parte 1: OSSERVARE - Preparare il terreno.
Nella Parte 2: CREARE, preparatevi a individuare i principi più significativi per la vostra organizzazione e a capire come definirli.
2.1 L'approccio "Foundational Value Finder"
Questo framework è adattato dal libro di Olivia Gambelin Responsible AI , che propone un metodo pratico per aiutare le organizzazioni a identificare valori in grado di allinearsi tra dimensioni normative, di ecosistema e di organizzazione.
→ Usate il foglio di lavoro Identifica | Definisci i principi di IA per lavorare su questa sezione. Il foglio di lavoro contiene la tabella di valutazione dell'allineamento e tutti i riferimenti a supporto.
Preparare il contesto:
Se avete raccolto le tensioni attraverso colloqui preliminari, iniziate presentando al gruppo una sintesi degli elementi emersi. Condividete i modelli ricorrenti che avete individuato: le speranze, i timori, gli aspetti non negoziabili che sono venuti alla luce. Lasciate poi spazio alle reazioni del gruppo e alla possibilità di integrare quanto raccolto.
Se le tensioni emergono direttamente durante la sessione, iniziate con le 5 domande. Concedete 5 minuti per la riflessione individuale, seguiti da 15-20 minuti di condivisione collettiva. Annotate tutto su una lavagna a fogli mobili o su un documento condiviso.
Una volta emerse le tensioni, il vostro team dispone ora di:
Spunti raccolti tramite colloqui o riflessioni (cioè che vi interessa proteggere)
Un inventario dell'IA che mostra quali strumenti state già utilizzando e quali sono le preoccupazioni esistenti
Il patrimonio di conoscenze già disponibili, costituito dai valori della vostra organizzazione, dalle normative pertinenti e dai benchmark provenienti dal settore.
Ora potete mettere questi elementi in relazione per individuare quali principi siano davvero rilevanti.
Creare l'elenco dei principi:
Il primo passo consiste nel riunire tutti i principi emersi durante la fase OSSERVARE:
I principi comuni di IA responsabile ottenuti dalla ricerca su framework e benchmark (i 6-12 più citati)
I valori e i principi già presenti nella vostra organizzazione
Qualsiasi principio emerso dalle vostre conversazioni sulle tensioni (es. se "autenticità" è emerso più volte, potrebbe suggerire un principio come "l'essere umano al centro").
I principi impliciti nel vostro panorama normativo
È probabile che alla fine vi troviate con 12-20 principi candidati. È del tutto normale. Il passo successivo vi aiuterà a stabilire le priorità.
La valutazione dell'allineamento:
Per ciascun principio, valutate se è rilevante rispetto a tre dimensioni:
(Bozza esemplificativa)
[table]
→ Il foglio di lavoro Identifica | Definisci i principi di IA contiene questa tabella pronta da compilare, insieme al riferimento all'Allineamento tra la legge UE sull'IA e i principi per aiutarvi a completare la colonna Governo/Regolamentazione.
In che modo la fase OSSERVARE fornisce queste informazioni:
Colonna Governo/Regolamentazione: La ricerca sul panorama normativo indica quali principi sono richiesti o incoraggiati dalla legge.
Colonna Ecosistema: La comprensione delle aspettative di finanziatori, partner e comunità vi aiuta a individuare i principi più importanti per i vostri stakeholder.
Colonna Organizzazione: I valori già presenti nell'organizzazione E gli insight emersi dalle tensioni vi indicano quali sono i principi cardine per la vostra identità.
Il dialogo sulle tensioni è particolarmente prezioso in questo passaggio. Se il team ha espresso forte preoccupazione per l'autenticità, questo vi orienta verso principi come "l'essere umano al centro". Se invece è emersa più volte la privacy dei dati nell'inventario, ciò significa che "Privacy e governance dei dati" è un principio primario.
Punteggio dell'allineamento:
Primario (3 segni di spunta): Il principio compare in tutte e tre le fonti. È fondamentale e non negoziabile.
Secondario (2 segni di spunta): Il principio compare in due fonti. È importante e supporta il processo decisionale quando i principi primari sono in conflitto.
Terziario (1 segno di spunta): Il principio compare in una sola fonte. Può comunque essere importante per la vostra organizzazione, anche se non viene enfatizzato altrove.
L'obiettivo è individuare 3-7 principi primari. Un numero superiore diventa poco gestibile; un numero inferiore rischia di trascurare dimensioni importanti. Questi principi primari diventeranno il fulcro della fase di definizione dettagliata.
2.2 Dall'identificazione alla definizione
Identificare i principi è solo metà del lavoro. Principi come "equità" o "trasparenza" hanno un significato diverso a seconda delle organizzazioni. Il vostro compito è quello di definire cosa significhi ciascun principio nel vostro contesto specifico.
→ Il foglio di lavoro Identifica | Definisci i principi di IA include un modello di definizione per ogni principio. Utilizzatelo per raccogliere le risposte del vostro team alle seguenti domande.
Domande guida per la definizione:
Per ciascun principio identificato come primario (e facoltativamente secondario), lavorate insieme su queste domande:
Che cosa significa questo principio per la nostra organizzazione nel contesto dell'IA? Come si collega alla nostra missione, ai nostri valori e al lavoro specifico che svolgiamo? Che cosa rende unica la nostra interpretazione?
Perché questo principio è importante per noi? Quali sono i potenziali vantaggi se lo rispettiamo? Quali sono i rischi o le conseguenze negative se non lo facciamo?
Vi viene in mente un esempio specifico in cui questo principio sarebbe di cruciale importanza o verrebbe messo in discussione? Basatevi su scenari concreto o ipotesi realistiche.
Quali criteri ci aiuterebbero a valutare se stiamo rispettando questo principio? Quali condizioni devono essere soddisfatte?
Caso di studio: Khan Academy
Khan Academy ha adottato il principio "raggiungere gli obiettivi educativi", ma non si è fermata al nome. Ha definito criteri che chiariscono cosa significhi, nella pratica, rispettarlo:
"Esiste un obiettivo educativo chiaro che può essere raggiunto attraverso l'uso dell'IA"
"Esiste un piano di monitoraggio e valutazione per determinare l'impatto"
"Esistono meccanismi per impedire utilizzi dell'IA non educativi"
Si noti che non si tratta ancora di regolamenti operativi dettagliati, ma di criteri a livello di principio: definiscono ciò che il principio richiede, senza stabilire esattamente come realizzarlo. Quel livello di specificità arriva in un secondo momento, quando si sviluppano le policy (qui per saperne di più) e si effettuano le valutazioni dei rischi (qui per saperne di più).
Il valore della definizione dei principi a questo livello è evidente; il team può ora porsi domande come: "La funzionalità di IA che abbiamo proposto ha un obiettivo educativo chiaro? Abbiamo un piano per misurare l'impatto? Quali meccanismi possono prevenire un uso improprio?" Il principio fornisce le domande; la policy e le analisi dei rischi forniranno le risposte.
Caso di studio: ChangemakerXchange
In CXC hanno definito il principio "uso consapevole" attraverso alcune domande concrete che il proprio team si pone prima di utilizzare qualsiasi strumento di IA:
"L'IA è davvero necessaria per questo compito?"
"È realmente in linea con i nostri valori?"
"Che cosa perdo quando utilizzo questo strumento per svolgere questa attività?"
Hanno anche chiarito come questo principio si traduce nella pratica: "Alcuni compiti richiedono la nostra totale presenza e attenzione, come scrivere un messaggio sentito ai membri, sviluppare una teoria del cambiamento o progettare una sessione per uno dei nostri incontri. Quando queste attività vengono delegate eccessivamente all'IA, rischiano di perdere profondità, autenticità o significato".
Il principio diventa operativo proprio perché è definito in termini di lavoro concreto dell'organizzazione.
[table]
Risultato atteso: → Usate la scheda Definire i principi di IA responsabile nel foglio di lavoro Identifica | Definisci i principi di IA per registrare questo risultato per ogni principio.
Queste definizioni diventeranno la base delle vostre strutture di governance e delle policy.
2.3 L'importanza di avere voci diverse
Chi partecipa a questo processo è importante quanto il processo stesso.
Perché la diversità è fondamentale:
Le persone più vicine alla vostra missione spesso riescono a scorgere rischi che i vertici non notano
Il personale in prima linea capisce come l'IA influisca concretamente sul lavoro quotidiano
I membri della comunità possono rilevare impatti che i team interni potrebbero trascurare
Prospettive diverse prevengono i punti ciechi e il pensiero di gruppo
Quando le persone partecipano alla creazione dei principi, diventano custodi di quei valori.
Chi dovrebbe essere presente:
I vertici dell'organizzazione (per garantire adesione e autorità decisionale)
Il personale di programma/operativo (per portare la prospettiva della realtà pratica)
Il personale tecnico, se esistente (per valutare la fattibilità)
Chi si occupa di comunicazione e relazioni esterne (per la prospettiva degli stakeholder)
Il personale amministrativo (spesso tra i primi ad adottare l'IA per migliorare l'efficienza)
Se possibile: membri della comunità, beneficiari o partner.
Il manifesto di CXC è nato da un approfondito processo di ascolto interno. Il framework di Khan Academy è gestito da un gruppo di lavoro interfunzionale che coinvolge team di ricerca sui prodotti, sui dati e sugli utenti, per garantire che il loro approccio sia plasmato da prospettive diverse.
Suggerimenti di facilitazione:
Create un clima di sicurezza psicologica: niente giudizi, nessuna risposta "sbagliata"
Prevedete una fase di riflessione individuale prima della discussione di gruppo (per evitare che le voci più forti orientino subito il confronto)
Invitate esplicitamente a intervenire anche i partecipanti più silenziosi
Documentate anche le posizioni di dissenso, non solo i punti di consenso
Considerate meccanismi di raccolta anonima dei contributi per questioni sensibili
Esplicitate che il disaccordo è una fonte di informazione, non un fallimento
Evitare il "teatro aziendale":
L'obiettivo non è produrre un documento rifinito da far approvare ai vertici. L'obiettivo è una vera e propria co-creazione: principi in cui il team si riconosce perché ha contribuito a definirli.
Se la prima sessione fa emergere disaccordi reali, è un buon segno, non di un problema. Queste tensioni sono informazioni preziose. Possono indicare che avete bisogno di ulteriore confronto prima di impegnarvi su un principio, oppure che un principio va definito con maggiore accuratezza per accogliere diverse prospettive.
Il processo di creazione dei principi è importante quanto i principi stessi.
Assicuratevi di proseguire con la Parte 3: Mettere in pratica, per scoprire come individuare i principi sull’IA più rilevanti per la vostra OSC.
Il tuo feedback è importante
Questo articolo è la seconda parte della serie "La roadmap per un’IA responsabile per le OSC", sviluppata nell'ambito del progetto AI for Social Change del Digital Activism Program di TechSoup, con il supporto di Google.org.