#1 Cosa hanno in comune un forno a microonde e un'intelligenza artificiale?

In questo numero parliamo anche del peso che può avere un'IA che dichiara erroneamente delle persone come decedute e di come invece il Cile la voglia usare per ritrovare persone scomparse da tempo.

Nel primo numero di questa newsletter, a gennaio, avevo spiegato che avrei voluto condividere alcune delle domande su cui mi interrogo di più legate al mio lavoro. Mica voglio sprecare tutte quelle che avevo già prima di cominciare, quindi partirò prima da quelle vecchie.
Lo so, quella di questo mese è una domanda strana, ma è anche una di quelle che mi pongo più spesso. Vi avevo anche promesso che questa volta avrei condiviso con voi il perché dell’icona di questa newsletter. Ve la metto qui:

Come vedete, si tratta di un forno a microonde funky. L’ha realizzato un’intelligenza artificiale generativa, per cui non so dirvi cosa sia quell’oggetto rosa al suo interno. Secondo me ognunə di noi può vederci ciò che preferisce.

Ma torniamo al perché ho scelto questo oggetto. Qualche anno fa, quando studiavo il rapporto tra genere e tecnologia e in particolare il contributo femminista alla costruzione sociale, mi sono imbattuta in un libro del 1993 dal titolo Gender and Technology in the Making (purtroppo, nonostante sia molto citato in questo campo di studi, il testo è praticamente introvabile, temo dovrete fidarvi di me e delle anteprime su Google Books. Appello alle case editrici: ripubblicatelo!). Le autrici erano due sociologhe, Cynthia Cockburn e Susan Ormrod, che avevano deciso di studiare la tecnologia tracciando l'intera traiettoria di vita di un artefatto. L’artefatto scelto, popolare e innovativo per l’epoca, era il forno a microonde.

Nei suoi lavori, come molte altre scienziate e scienziati sociali che studiavano la tecnologia, Cockburn dimostrava empiricamente come qualunque fatto tecnico a cui siamo abituati sia il risultato di una scelta deliberata. In altre parole, che nessuna scelta tecnica è inevitabile.
Per studiare empiricamente il forno a microonde, le autrici sono partite dalle fabbriche in cui venivano progettati, ricostruendo la sua ideazione, costruzione e realizzazione fino al suo arrivo nei negozi. Man mano che avanzavano nella loro etnografia, raccoglievano alcune evidenze particolarmente illuminanti.

La prima: i microonde erano pensati per i maschi.

L’idea di business era nata così: gli uomini non sanno cucinare, e anche se lo sanno, non hanno il tempo per farlo dato che lavorano tutto il giorno. Il microonde, quindi, veniva inizialmente venduto assegnando un ruolo specifico ai presunti utenti finali - uomini lavoratori - come un accessorio hi-tech: era scintillante, elettronico, nero, un cosiddetto “brown good”, e venduto nei reparti di elettronica tra televisori e stereo. C’era un mismatch, evidenziato dalle autrici, tra chi lo costruiva e chi lo vendeva, emerso solo grazie a un’analisi che non si è limitata a studiare il design di questa tecnologia o solamente la sua immissione sul mercato, ma entrambe le componenti come parte di un ciclo di vita più ampio.

La seconda: le donne avevano il ruolo di consulenti.

Al contrario dei team commerciali esterni all’azienda che li progettava, i progettisti avevano in mente le donne.

«Se fosse una macchina da scrivere penseresti a una donna, giusto? Se fosse una fotocopiatrice sarebbe chiunque…Se fosse un lettore di compact disc, uomo; se fosse un registratore video, uomo; e il forno a microonde – donna.»

A tal punto che, in base alle osservazioni di Cockburn e Ormrod, sappiamo che se i designer che lavoravano al microonde erano tutti uomini, le donne occupavano uno spazio insolito: quello di consulenti. Dentro l’azienda che hanno osservato esisteva un reparto molto particolare chiamato Test Kitchen, dove decine di casalinghe spiegavano ai progettisti come costruire uno strumento utile a determinati scopi e renderlo agevole per le cucine.

La terza: non funzionò.

La configurazione di genere maschile pensata per la vendita del microonde non funzionò. I maschi non lo compravano. A quel punto, si è deciso di riportare la tecnologia nelle fabbriche e riconfigurarla. Pensare un pubblico diverso, rivederne le caratteristiche tecniche, le funzionalità. Fu riportata fuori ed esposta nei negozi come “white good”, al fianco di lavatrici e frigoriferi.

Il microonde che tuttɜ conosciamo è il risultato storico di scelte e negoziazioni tra designer, commerciali e utenti.

Approcciandola con una lente femminista, la storia del forno a microonde ci dice molte cose rispetto a come i ruoli di genere entrano nella costruzione tecnologica. Ma ci dice soprattutto che nella costruzione di qualsiasi tecnologia, ogni scelta è importante. Che non esiste nulla di scontato, che ci sono sempre dei ruoli previsti per gli specifiche categorie di utenti e diverse motivazioni a spiegare il perché di una determinata configurazione. Ad esempio, i pregiudizi e i valori sociali, come quelli sugli uomini che non sanno cucinare e le donne che devono insegnare a cucinare il cibo. Tutte scelte, umane, che producono degli effetti o cambiamenti sociali.

✨

Questi sono alcuni dei temi al centro del libro che sto scrivendo, dove sto riprendendo questi lavori per studiare le intelligenze artificiali in alcuni degli effetti che provocano oggi. I più curiosɜ potranno approfondire tra qualche mese! 😬

---

🌍 Notizie dal mondo

Negli ultimi venti giorni mi sono rimaste particolarmente impresse due storie antitetiche. Entrambe riguardano delle persone scomparse e l’automazione di processi molto importanti e profondamente politici, dove gli obiettivi iniziali e gli impatti finali hanno in egual misura contribuito agli effetti che questi hanno avuto nei relativi contesti sociali.

🇮🇳 La prima è ambientata in India, dove dal 2020 lo Stato utilizza un processo decisionale automatizzato per determinare l'idoneità dei richiedenti l'assistenza sociale. A 277.115 cittadini anziani e 52.479 vedove nell'arco di tre anni sono stati negati i sussidi perché erroneamente classificati come "morti".

🇨🇱 La seconda, invece, in Cile, e mi è sembrato uno degli utilizzi più belli che un governo possa avere dell’intelligenza artificiale. Il primo ministro cileno, Gabriel Boric, ha annunciato un progetto nazionale che utilizza l'IA per cercare di identificare e ritrovare oltre 1.000 desaparecidos risalenti al periodo della dittatura (1973-1990).

📂 Archivio tecnofemminista

✨  Sabato 10/2, durante una puntata di Progress su SkyTG24, è andata in onda un'intervista a Kashmir Hill, giornalista del New York Times che nel suo ultimo libro "La tua faccia ci appartiene" racconta la storia di #ClearviewAI, celebre società nata con un business model estremamente problematico basato sul data scraping incondizionato dei volti di migliaia di persone online. Partendo da qui, io ho parlato dei principali rischi delle tecnologie di riconoscimento facciale e di come saranno normati con l’AI Act. Potete rivedere la puntata, e in particolare la prima parte, qui.

✨ The Map Report, un magazine sull’innovazione e la responsabilità sociale che si può sfogliare gratuitamente qui (con tante altre rubriche interessanti e importanti!), mi ha intervistata sulle politiche digitali italiane.

✨  È uscita la versione digitale del report annuale di ForumPA. All’interno c’è anche un mio articolo sulla digitalizzazione e automazione dei servizi pubblici. Il tempismo è stato perfetto, dato che il giorno stesso il viceministro all'Economia ha espresso l'intenzione del governo di "fare data scraping" per contrastare l'evasione fiscale, analizzando anche i dati "sul tenore di vita che professionisti e imprenditori pubblicano sui social". La proposta di incrociare qualsiasi informazione (tutt’altro che oggettiva e neutrale) per profilare i cittadini da parte dello Stato ritorna ciclicamente, di governo in governo, ma serve continuare a contrastarla perché ingiustificabile per diversi motivi, anche se lo scopo è di contrastare l'evasione.

✨ Immanence, la società benefit che ho co-fondato insieme a Luna Bianchi l’anno scorso, è entrata nell’Ethical AI Start-up Database, che mappa tutte le start-up e società di consulenza nel mondo che offrono servizi etici legati all’intelligenza artificiale 🥳

🗓 Dove ci vediamo?

• Il 27 febbraio dalle 16:30 alle 18:30 sarò alla IULM a Milano per un seminario aperto dal titolo “Che genere di AI?” con lo scopo di discutere di come le intelligenze artificiali considerano le differenze di genere, tra giochi di specchi e discriminazioni insieme ad Elisabetta Risi, ricercatrice IULM, co-responsabile del Digital Gender Hub e Guido Di Fraia, prorettore all'Innovazione e Intelligenza Artificiale dell’Università IULM e Presidente IULM AI Lab. Ci si può iscrivere gratuitamente qui.

• Dal 28 febbraio al 3 marzo sarò a Berlino! Se qualcunɜ ci legge da lì, possiamo vederci per visitare insieme Poetics of Encryption al KW :)

• Il 7 marzo sarò di nuovo a Milano per un incontro particolare alla scuola di scrittura Belleville, intitolato Cronache dell’IA. Storia romantica dell’intelligenza artificiale, con Edoardo Camurri, Federico Bomba e curato da Andrea Cristallini. Esploreremo “gli intrecci che legano una tecnologia d’avanguardia alle avanguardie letterarie e artistiche del secolo scorso”. Ci si iscrive qui.

• Il 10 marzo, sempre a Milano (ma io da remoto), nel corso del Festival Transfemminista organizzato dallo spazio LatoB parleremo anche del legame tra femminismo e tecnologia.

• L’11 marzo, a Firenze, per Intelligenza Artificiale: verso nuovi universi e paesaggi?, un ciclo di lezioni gratuite per gli insegnanti delle scuole dell’infanzia, primarie e secondarie di I e II grado (se leggete, potete iscrivervi qui!) curato da Francesco D’Isa. Quel giorno parlerò delle implicazioni etiche e sociali delle nuove tecnologie.

• Il 20 marzo, a Roma, per un evento di ForumPA dedicato all’adozione dell’intelligenza artificiale nel settore pubblico.

📬 Se siete arrivatɜ fino a qui, grazie di cuore! Per questo numero è tutto. Mi piacerebbe molto sapere cosa ne pensate, o se avete domande da condividere e/o suggerimenti. Potete sempre scrivermi a info@dilettahuyskes.eu. Se vi va di aiutarmi a creare questa piccola comunità di curiosɜ, potete condividere questa newsletter con altre persone che pensate possano essere interessate.

Ci sentiamo il prossimo mese!

Diletta