Ricordate com’era la vita prima di novembre 2022? Quello è il mese in cui mese OpenAI rilasciò ChatGPT al pubblico. Avete smesso di lavorare dopo quella data? La vostra organizzazione ha cambiato ogni singolo passaggio del processo decisionale o produttivo? Per la maggior parte di noi, la risposta a queste domande è negativa. Non abbiamo smesso di lavorare, e non siamo stati sostituiti dalle macchine. Per la maggior parte delle persone e delle organizzazioni, il lavoro è proseguito come prima, con gli strumenti di IA che sono diventati parte delle routine quotidiane.

Ora lasciatemi fare un salto indietro nel tempo, fino agli anni '20 del secolo scorso, quando comparve la prima lavatrice elettrica nelle case statunitensi. Era, naturalmente, un dispositivo rivoluzionario. Mia nonna mi raccontava delle lunghe ore passate a lavare i panni al lavatoio comune o al fiume, che non le sono certo mancate dopo aver iniziato a usare la lavatrice automatica. Tuttavia, come spiega la ricercatrice e sociologa Diletta Huyskes nel suo libro Tecnologia della rivoluzione (Il Saggiatore, 2024), nel 1974 Joann Vanek dimostrò che la posizione delle donne nel lavoro domestico era rimasta praticamente invariata nonostante l'introduzione di tecnologie domestiche come la lavatrice.

La storica e tecnologa Ruth Schwartz Cowan, nel suo libro del 1983 More Work for Mother, ha documentato bene questo stesso paradosso: con l'arrivo della lavatrice e di tutti gli altri elettrodomestici, gli standard di pulizia della casa aumentarono. Se una volta le camicie si cambiavano una volta a settimana, piano piano venivano cambiate ogni giorno. Se i pavimenti si lavavano nel weekend, col tempo si iniziò a lavarli quotidianamente. Il lavoro non era diminuito; si era moltiplicato, adattandosi allo strumento disponibile. Come ha osservato Cowan, le donne lavoravano tanto quanto prima, ma ora lo facevano da sole, perché gli elettrodomestici avevano sostituito anche l'aiuto di vicini, baby-sitter e collaboratrici domestiche.

Questo paradosso che abbiamo osservato si applica, in modo inquietante, anche all'intelligenza artificiale. Mentre l'IA dovrebbe velocizzare e alleggerire il carico di lavoro dei dipendenti, proprio come le lavatrici, ha invece aggiunto nuovi strati di lavoro e di aspettative.

Quindi, la domanda che dobbiamo porre a noi stessi e alle nostre organizzazioni è: che tipo di strumento, che tipo di “intelligenza”, stiamo aggiungendo al team e ai nostri processi?

Non solo bias: è una questione di potere

Si tratta di una domanda importante soprattutto quando si parla di intelligenza artificiale nel terzo settore. In questo contesto significa quasi sempre parlare di bias, perché l'IA è fatta dagli esseri umani.

Gli esseri umani, infatti, sono soggetti a pregiudizi e bias, che possono riflettersi nei sistemi algoritmici. Questi ultimi finiscono così per riprodurre e amplificare le disuguaglianze già presenti nei dati con cui vengono addestrati, arrivando talvolta persino ad accentuarle. Senza adeguate forme di regolamentazione e una riflessione etica che ne orienti lo sviluppo e l'impiego, questi sistemi finiscono per rafforzare le stesse pratiche discriminatorie della società in cui sono stati progettati.

Nel suo libro Automating Inequality (Macmillan, 2018), Virginia Eubanks presenta l'uso dei sistemi algoritmici nei servizi pubblici americani, e documenta quello che lei chiama il “poorhouse digitale” (letteralmente la “casa dei poveri digitale”). Nel diciannovesimo secolo le poorhouse erano strutture governative dove le persone indigenti venivano ospitate a spese pubbliche in cambio di un impiego, secondo una logica che mescolava assistenza e controllo sociale. Similmente, oggi abbiamo infrastrutture di dati che, come gli edifici fisici, sono usati per “profilare, sorvegliare e punire i poveri” piuttosto che offrire loro dei servizi.

Uno degli esempi citati nel libro di Eubanks riguarda la nascita del Coordinated Entry System di Los Angeles, uno strumento assistito dall'IA, progettato per dare priorità all'assegnazione di alloggi alle persone senza dimora. Il sistema raccoglie dati estremamente sensibili - numeri identificativi, storie di salute mentale, precedenti legali - da migliaia di persone senza dimora, e li condivide con 168 organizzazioni. In altre parole, classifica gli individui su una scala di vulnerabilità per abbinarli agli alloggi disponibili. Il problema, come mostra Eubanks, non è l'algoritmo in sé, ma la domanda a cui gli è stato chiesto di rispondere: come gestire in modo più efficiente la carenza di alloggi. Mentre la carenza in sé non è mai stata affrontata, lo strumento ottimizzava la distribuzione di una risorsa inadeguata, costruendo al contempo un'enorme infrastruttura di sorveglianza attorno ai dati delle persone più vulnerabili della città.

Torniamo ora al terzo settore. Quanti dati raccolgono le organizzazioni non profit sulle persone con cui lavorano? E per cosa vengono usati? Rispondere a queste domande è fondamentale perché, come stiamo vedendo, affrontare il bias non basta. Il bias è una categoria tecnica. Per questo dobbiamo parlare del potere e delle disuguaglianze.

Una bussola utile qui è il framework del Data Feminism, sviluppato dalle ricercatrici Catherine D'Ignazio e Lauren F. Klein nel loro libro omonimo del 2020 (MIT Press). Costruito sul pensiero femminista intersezionale, propone un framework organizzato attorno a sette principi: Esaminare il Potere, Sfidare il Potere, Rendere Visibile il Lavoro, Considerare il Contesto, Abbracciare il Pluralismo (tra gli altri). Il primo principio è fondamentale: prima di chiedersi cosa possano fare i dati, bisogna chiedersi chi detiene il potere su di essi, chi ne beneficia e chi viene danneggiato. Come scrivono D'Ignazio e Klein, il Data Feminism “riguarda il potere, chi ce l'ha e chi no, e come queste differenze di potere possano essere messe in discussione e cambiate”. Questa è esattamente la lente di cui il terzo settore ha bisogno quando si avvicina all'IA: non come consumatori passivi di uno strumento tecnico, ma come attori con la responsabilità di capire dove risiede la fonte di questo potere. E di riconoscerla.

Prima di imparare e usare i software, chi lavora nel terzo settore, e non solo, deve essere in grado di rispondere ad alcune domande fondamentali: chi costruisce questi strumenti? Chi possiede i dati su cui vengono addestrati? Chi decide quali valori e priorità vengono incorporati nel design? Chi trae profitto dalla loro diffusione? E chi ne subisce le conseguenze quando le cose vanno male?

In altre parole, quando parliamo di “riconoscere il bias” o “migliorare la trasparenza algoritmica”, stiamo usando un linguaggio tecnico per descrivere ciò che, alla radice, è un problema di potere e di ingiustizia storica.

Rachel Adams, ricercatrice presso il Research ICT Africa institute, nel suo The New Empire of AI (Polity Press, 2024), ci aiuta a collocare l'IA non come uno strumento neutro con qualche spiacevole effetto collaterale, ma come un'estensione di strutture di potere storiche: “la disuguaglianza sociale e quella economica sono fenomeni strutturali”, scrive. Sono prodotte da forme di potere esistenti in determinati momenti storici “attraverso cui vengono prese decisioni che favoriscono un gruppo a scapito di un altro, opprimendolo o marginalizzandolo”.

Per le organizzazioni della società civile, questo è un invito ad agire. A chiedersi chi beneficia degli strumenti che adottiamo. A esigere trasparenza dai sistemi su cui facciamo affidamento. Ad assicurarsi che le comunità che serviamo non vengano, ancora una volta, lasciate fuori.

La società civile e l'etica del rifiuto

Nello stesso articolo, Rachel Adams scrive che “il nuovo impero dell'IA è guidato dalla logica dell'espansione e della crescita esponenziale e perpetua. Dipende da pratiche di estrazione proprio dagli stessi luoghi che cerca di espandere e conquistare. È astratto e invisibile: nuvole nell'etere difficili da vedere, e ancora più difficili da contrastare”. Come sostiene la studiosa, la maggior parte del mondo non è semplicemente assente dai benefici dell'IA, ma li sussidia attivamente, attraverso lavoro, terra e vite umane.

Per le organizzazioni della società civile, la cui missione è proprio servire e tutelare le comunità, questo è il cuore della questione. Un'organizzazione che usa l'IA per profilare i beneficiari dei propri servizi, selezionare volontari o ottimizzare le comunicazioni potrebbe, senza saperlo, escludere sistematicamente le persone più vulnerabili. Proprio quelle per cui esiste, che vuole aiutare e con cui lavora.

Quindi, un'alfabetizzazione all'IA autentica e critica non è una competenza tecnica, ma civica ed etica. In questo senso, i programmi di formazione per staff e volontari dovrebbero permettere di capire non non solo “come lanciare un prompt efficace”, ma anche “come valutare un output algoritmico”, “come riconoscere un bias”, e persino “quando è meglio non usare l'IA”.

Il tuo feedback conta

Cosa ne pensi di questo testo? Dedica 30 secondi a condividere il tuo feedback e aiutaci a creare contenuti significativi per la società civile!

L'autrice

Donata Columbro è giornalista, scrittrice e divulgatrice scientifica. Conosciuta come “data humanizer” per la sua capacità di rendere accessibili temi complessi legati ai dati, agli algoritmi e alla società, collabora con diverse testate nazionali e insegna data visualization e data storytelling presso lo IULM di Milano e l'Università della Svizzera Italiana.

Fonti

Diletta Huyskes, Tecnologia della rivoluzione (Il Saggiatore, 2024);
Catherine D'Ignazio, Lauren F. Klein, Data Feminism (MIT Press, 2020);
Ruth Schwartz Cowan, More Work for Mother (Plunkett Lake Press, 1983);
Rachel Adams, The New Empire of AI: The Future of Global Inequality (PolityBooks, 2024).

Note legali

Questa risorsa è stata realizzata nell'ambito del progetto AI for Social Change all'interno del Digital Activism Program di TechSoup, con il supporto di Google.org.

Gli strumenti di IA si evolvono rapidamente e, sebbene facciamo del nostro meglio per garantire la validità dei contenuti che forniamo, alcuni elementi potrebbero non essere più aggiornati. Se noti che un'informazione è obsoleta, faccelo sapere a content@techsoup.org.