#2 È davvero impossibile fermare la tecnologia?

Da dove nasce l'idea che innovazione e progresso tecnologico vanno da soli e sono inarrestabili? Microonde, missili e conflitti possono aiutarci. Ma anche: sapete dove nascono le impronte digitali?

Ciao! Questo numero esce durante la mia settimana di book leave e l’ho preparato mentre ero in volo per i Paesi Bassi (dove mi sto isolando). Per scriverlo, quindi, ho provato a sintetizzare una riflessione molto più ampia che uscirà a metà giugno, dove ci saranno molti dei casi che sto raccontando qui (a partire, ovviamente, dal microonde), ma alla fine troverete di nuovo due interessanti notizie dal mondo e alcune delle cose successe nelle ultime settimane.

Buona lettura!

---

Given the boat and the steam engine, is not the steamboat inevitable?

Siamo da sempre abituatɜ a pensare che le più dirompenti innovazioni a cui assitiamo siano il risultato della scoperta di uno o più “inventori eroci”. Secondo questa concezione, le grandi invenzioni avvengono quando, con un lampo di genio, un'idea radicalmente nuova si presenta quasi già pronta nella mente dell'inventore, come un abbaglio, o una magia. Questo modo di pensare è rafforzato dalle storie comuni e popolari sulla tecnologia, quelle che noi tuttɜ abbiamo studiato a scuola e di cui sentiamo continuamente parlare, in cui a ogni dispositivo viene associata una data precisa e un uomo particolare (sono poche le donne in questi elenchi) a cui "appartiene" l'invenzione raggiunta.

La citazione che leggete in apertura è di William Ogburn, uno scrittore americano che in un articolo del 1922, insieme a Dorothy Thomas, sostiene che le invenzioni, lungi dall'essere il risultato di “imprevedibili lampi di ispirazione”, sono inevitabili. Una volta che sono presenti i "necessari elementi culturali costitutivi", tra cui soprattutto le tecnologie, l'invenzione è inevitabile. E allora, data la barca e il motore a vapore, non è forse inevitabile la barca a vapore? (Ogburn e Thomas 1922, 90). A loro avviso, è una prova fondamentale dell'inevitabilità dell'invenzione il fatto che molte siano state realizzate in modo indipendente da più di una persona.

Per togliere potere al singolo inventore, quindi, Ogburn e Thomas hanno pensato di spostarlo e consegnarlo direttamente alla tecnologia in sè in una prospettiva storica, e cioè a tutto quello che succede retrospettivamente per rendere possibile, un giorno, una nuova invenzione.

Qualche anno dopo, lo storico della tecnologia Thomas P. Hughes ha ripreso il tema e studiato estensivamente "grandi inventori" come Thomas Edison (a cui si attribuisce l'invenzione, tra le altre, della lampadina elettrica) ed Elmer Sperry (famoso per la girobussola e il pilota automatico di aerei e navi). Hughes non aveva ovviamente alcun interesse a screditare i risultati ottenuti da coloro di cui scrive, ma il suo lavoro dimostra che l'invenzione non è e non può essere considerata come “un improvviso lampo di genio” da cui emerge un nuovo dispositivo "pronto per l'uso". Si tratta effettivamente di una minuziosa e accurata modifica della tecnologia esistente (così come accade per la ricerca scientifica).

Il cambiamento tecnologico è un accrescimento perpetuo di piccoli dettagli ed è sempre in divenire, per cui sarebbe meglio vederlo come un processo di apprendimento collettivo piuttosto che di innovazione individuale.

Lo stesso vale, e anzi a maggior ragione, per le “rivoluzioni” tecnologiche. Uno dei miei autori preferiti è Donald MacKenzie, che come Hughes faceva parte di un’ampia generazione di autori, soprattutto scienziatɜ sociali, che tra gli anni Ottanta e i primi anni Duemila hanno indagato la costruzione sociale della tecnologia (e di cui fanno parte anche Cockburn e Ormrod, autrici dello studio sul forno a microonde che ha ispirato questa newsletter e che ho anticipato nell’episodio precedente).

Nel 1993, in Inventing Accuracy, MacKenzie ha raccontato il migliore studio sulla costruzione sociale degli armamenti. La sua ricerca empirica sui missili balistici strategici ci ha detto molto di più sul funzionamento di un mondo che non è né sconvolgente né tanto meno inarrestabile. Partendo da un dato di fatto - e cioè che l'ultima generazione di missili nucleari strategici statunitensi era in grado di volare per migliaia di chilometri e di depositare le proprie testate nucleari entro cento metri dal bersaglio - MacKenzie ricostruisce come si sia arrivati a questo risultato con oltre cinquant’anni di ricerca, controversie, e conflitti. Questa generazione di studiosɜ, infatti, si è particolarmente concentrata su tutte le “frizioni”, le negoziazioni, e i veri e propri conflitti che rendono da sempre possibili le tecnologie: ciò che vediamo come utenti spesso non è che il risultato finale di anni di scelte, controversie, preferenze, interessi specifici, valori e convenienze economiche. Infiniti fattori possono influenzare lo sviluppo (o meno) di una tecnologia, così come la sua realizzazione in un modo piuttosto che in un altro.

Con le parole di MacKenzie, “al di fuori delle reti umane, intellettuali e materiali che danno loro vita e forza, le tecnologie cessano di esistere”. Lungi dall’essere inevitabile, come sosteneva Ogburn,

La tecnologia è sempre una forma di conoscenza sociale, di pratiche e di prodotti. È il risultato di conflitti e compromessi, i cui esiti dipendono principalmente dalla distribuzione del potere e delle risorse tra i diversi gruppi della società.

Judy Wajcman, Feminism Confronts Technology, 1991

Non bastano una barca e un motore per fare una barca a vapore: serve che quel metodo sia economicamente perseguibile, che non esista altro di più conveniente, che almeno un gruppo sociale lo desideri, che le leggi lo permettano e soprattutto che funzioni. Quest’ultima, che dovrebbe essere una delle caratteristiche imprescindibili per lo sviluppo tecnologico, spesso non viene neanche considerata. Il lavoro di questi autori e autrici (che, come vi dicevo, sto provando a ricostruire nel libro a cui sto finendo di lavorare in queste settimane) ci può ancora insegnare moltissimo rispetto a quanto c’è di umano e sociale nella costruzione di qualsiasi tecnologia. Soprattutto, di quanto i conflitti e le diverse scelte possono direzionarla, e di quanto niente di ciò che vediamo alla fine sia “scontato”.

Come forse sapete, il 13 marzo è stato votato definitivamente il testo finale del Regolamento europeo sull’intelligenza artificiale (AI Act). L’AI Act si basa sul rischio prevedibile di alcuni sistemi di IA e, tra le altre cose, ne vieta alcune applicazioni (in modo mooolto soft). In questi tre anni di costruzione normativa, e soprattutto nelle ultime settimane, sono uscite diverse interviste a persone dell’ambiente per interrogarle su questo Regolamento che sta facendo così discutere. Si può fermare l’innovazione? Quanto è controproducente l’approccio europeo all’IA? (Su questo tema, tra l’altro, Will Media ha prodotto un video-dibattito l’anno scorso al quale ho partecipato). Tra tutte, nelle ultime settimane mi è capitato di leggere (e commentare) un’intervista di Repubblica ad Alex Ross, dove veniva sostanzialmente criticato l’approccio europeo perché considerato controproducente dal punto di vista dello sviluppo tecnologico.

Come ogni volta, sono rimasta molto colpita leggendo come con così tanta lucidità si possa pensare che l'innovazione vada perseguita come fine ultimo, come partita economica, che sperimenta direttamente sulla pelle dei cittadini anche quando i rischi sono troppo alti. L'Europa, piena di errori, ha provato ad adottare un approccio diverso, dettato da una cultura diversa, dove si propone di fare ricerca e sperimentare in ambienti protetti, prima di immettere certi prodotti sul mercato. Questo rallenta l'innovazione? Probabile. È comunque auspicabile? Assolutamente sì. Innanzitutto perché credo che le politiche industriali possono essere portate avanti parallelamente a quelle digitali, ma soprattutto perché non esiste mai un solo modo per costruire una tecnologia. Le leggi, le regole di settore e altre norme, da sempre, contribuiscono a influenzare lo sviluppo, e ciò ha sempre permesso che la progettazione di ogni oggetto potesse prendere una direzione piuttosto di un’altra. Il problema è che noi diamo troppo per scontato che le applicazioni finali che vediamo siano quelle migliori, quelle più giuste e in realtà le uniche possibili.

È questo approccio, che i costruttivisti chiamavano determinismo e al quale io oggi mi riferisco quando parlo di “inevitabilismo”, che ancora prima della tecnologia in sè ha delle conseguenze potenzialmente molto dannose per le nostre società. Nello schemino che ho illustrato poco sopra, questo “fatalismo” che va avanti da secoli nei confronti dell’innovazione non fa altro che convincerci (erroneamente) che tutto questo sia fuori dal nostro controllo e che non c’è niente che possiamo fare per indirizzarlo diversamente. È questa deresponsabilizzazione, e inazione, che porta direttamente ai danni di cui sentiamo parlare ormai quotidianamente. Dovremmo imparare a pensare che tutto quello a cui assistiamo è il risultato di una “direzione differente” rispetto a ciò che qualcunɜ, a un certo punto della storia, aveva immaginato.

🌍 Notizie dal mondo

🇿🇦 Si può studiare la marginalizzazione sociale analizzando le immagini satellitari?
È quello che sta facendo Raesetje Sefala, una ricercatrice del Distributed Artificial Intelligence Research Institute (DAIR) che utilizza la computer vision, la data science e le tecniche di apprendimento automatico per studiare la configurazione spaziale, storica e sociale delle townships in Sudafrica, un’eredità dell’apartheid ancora purtroppo molto presente. Questa ricerca è raccontata in un episodio di Zenit, che è uno dei prodotti di Mangrovia, un nuovo bellissimo progetto editoriale curato da Sineglossa (e ho l’onore di far parte del loro comitato editoriale).

🇮🇳 A proposito di invenzioni, qualche giorno fa mi sono imbattuta in una storia tutt’altro che recente ambientata in India durante l’imperialismo inglese. Racconta la nascita delle impronte digitali, che sono comunemente conosciute come un’invenzione scozzese. Chandak Sengoopta, in Imprint of the Raj, dimostra che le impronte digitali furono un prodotto non tanto della Gran Bretagna, quanto del Raj, dell'incontro imperiale tra colonizzatore e colonizzato. Il luogo dove gli inglesi hanno inventato l'identificazione personale non era una semplice coincidenza: questa invenzione era stata resa possibile dal potere che esercitavano sulla popolazione indigena. Le impronte, sostiene Sengoopta, erano come la polvere di curry: "sviluppate in India ma non indigene, britannica ma non evoluta nella stessa Gran Bretagna ... incorporate nella tradizione britannica e poi gradualmente ritrasmesse al mondo intero, offuscano la semplicistica distinzione che spesso facciamo tra patria e Impero".

🇸🇪 A proposito di “frizioni”, come componente del programme committee, vi segnalo il workshop "Stimulating cognitive engagement in hybrid decision-making: friction, reliance and biases'" che si terrà all’Hybrid Human-Artificial Intelligence Conference all’Università di Malmö l’11 giugno! Si può presentare un abstract fino al 15 aprile, qui tutti gli argomenti proposti e i dettagli.

📂 Archivio tecnofemminista

✨ Domenica scorsa ero al settimo cielo quando ho scoperto che Rai Scuola e Digital World hanno intitolato “Tecnofemminismo” la puntata basata sui contributi di tante colleghe raccolti durante una giornata dell’Internet Festival dello scorso autunno. La puntata integrale è qui, io ho parlato di discriminazioni algoritmiche, dei loro impatti nei servizi pubblici, del “paradosso dell’innovazione” e altro!

✨  La mattina del 20/3 ho avuto l'onore di condividere uno spazio nella tavola rotonda sulla governance dell'intelligenza artificiale italiana organizzata da ForumPA e Microsoft Italia con Nunzia Ciardi (direttrice generale Agenzia per la Cybersicurezza Nazionale - ACN), Mario Nobile (direttore generale AGID - Agenzia per l'Italia Digitale) e Lucia Fioravanti (Polo Strategico Nazionale). Ho provato a portare un contributo concreto, incentrato su impatti pratici dei processi soprattutto decisionali automatizzati, e proposto di guardare a queste esperienze note facendo "ingegneria inversa" per rendere strategica, preventiva, attuale ed estremamente operativa la governance nazionale dell'IA. Erano temi caldi, perché proprio in quei giorni il governo (e in particolare il sottosegretario all’Innovazione Alessio Butti) aveva annunciato di voler affidare la governance dell’intelligenza artificiale (così come richiesto dall’AI Act) ad AgiD e ACN, due agenzie governative.
Lo stesso giorno, insieme a The Good Lobby Italia e Hermes Center for Transparency and Digital Human Rights, abbiamo condiviso con il governo e altri attori interessati una nostra posizione a favore di un’autorità indipendente per l’intelligenza artificiale. Le nostre motivazioni sono qui.

✨ Quando è stato votato l’AI Act, io e Gabriele Ientile di Privacy Network abbiamo commentato insieme il testo finale in una diretta su Instagram che si può recuperare qui.

✨ In occasione dell’8 marzo, Repubblica ha scritto un articolo per dare risalto alle donne che in Italia si occupano di intelligenza artificiale (nell’accademia, nel mondo start-up e nelle istituzioni), e ci siamo anche Luna Bianchi ed io per Immanence. Nonostante io sia la prima a pensare che il rischio di ghettizzazione dietro queste iniziative sia dietro l’angolo, ho pensato che se fatte bene facciano parte di una serie di passaggi intermedi e necessari per evidenziare effettivamente del lavoro che altrimenti viene sommerso. L’ho pensato fino a quando la settimana successiva, dalla stessa testata, è stata pubblicata un’altra lista delle “500 persone che contano nell’IA in Italia”, e ho notato che più della metà delle donne elencate solo una settimana prima mancavano.

🗓 Dove ci vediamo?

Purtroppo, per il prossimo mese non parteciperò a eventi o incontri pubblici. Ci vedremo di nuovo a maggio! Per quel momento avrò superato questa fase e sarò una persona migliore:

📬 Se siete arrivatɜ fino a qui, grazie di cuore! Per questo numero è tutto. Mi piacerebbe molto sapere cosa ne pensate, o se avete domande da condividere e/o suggerimenti. Potete sempre scrivermi a info@dilettahuyskes.eu. Se vi va di aiutarmi a creare questa piccola comunità di curiosɜ, potete condividere questa newsletter con altre persone che pensate possano essere interessate.

Ci sentiamo il prossimo mese!

Diletta