#8 Altre intelligenze artificiali possibili
Per costruire tecnologie serve potere, certo: ma altre traiettorie che seguono la cura e il benessere sociale di molti sono possibili. Un viaggio nel Cile degli anni '70.
Power is a part of any technology because power is required to build that technology in the first place. Power becomes more entrenched into a system when it is built with power as its organizing principle, or value.
(Da Cybernetic Forests, la newsletter di Eryk Salvaggio)
Lo sappiamo, e forse oggi è più evidente che mai: per fare tecnologia serve potere. In primis, potere economico. Negli ultimi anni, la tecnologia che domina il nostro presente si è sempre più concentrata su un'infrastruttura specifica, sempre più costosa, sempre più globale e distribuita, spesso pesantemente ingiusta. È forte il sentimento che senza un enorme capitale e senza il controllo di tutta la catena di valore sia impossibile creare tecnologia.
Storicamente, non è sempre stato così. Alcune innovazioni sono nate non tanto grazie a investimenti smisurati, ma dalla capacità di sistematizzare la conoscenza esistente, di intrecciare saperi, di sfruttare risorse già disponibili. Eppure, nell’immaginario e nella realtà attuale, il legame tra tecnologia e potere economico sembra indissolubile. Perché se è vero che per iniziare una tecnologia potrebbe non servire necessariamente un grande capitale, è altrettanto vero che per mantenerla e sostenerla nel tempo il potere economico diventa essenziale. Andrew Feenberg, che cito spesso in questo spazio, lo aveva già detto anni fa: abbiamo accettato come scontato il legame tra il sistema capitalistico e le tecnologie che produciamo. Un legame che non è naturale né inevitabile, ma il risultato di scelte politiche, economiche e culturali. E oggi, più che mai, dovremmo interrogarci su quali alternative siamo in grado di immaginare.
Stiamo assistendo a una generazione di strumenti costruiti senza pensare - o ripensare - criticamente ai contesti in cui vengono creati, agli scopi per i quali sono stati concepiti, ai valori con cui vengono costruiti, o al loro ruolo nel mondo in generale. E se lo facessimo? Cosa sarebbe l'IA allora?
Nelle ultime settimane, il modello DeepSeek, sviluppato in Cina, ha aperto uno spazio di riflessione su un tema che avremmo dovuto affrontare da tempo: la tecnologia non è inevitabilmente legata a un solo modo di essere, né a un’unica visione del mondo. Per due anni abbiamo commesso l’errore di identificare una specifica tecnologia con le aziende che la producono, relegandola a una precisa geografia e ai valori di quel contesto, senza interrogarci su ciò che essa potrebbe essere. Abbiamo accettato come dato di fatto che l’intelligenza artificiale generativa e i grandi modelli linguistici (LLM) seguissero un’unica traiettoria, senza considerare che altre possibilità fossero non solo pensabili, ma possibili.
DeepSeek, al di là di ogni giudizio sul suo posizionamento o desiderabilità, ci ha dimostrato che esistono alternative. E non parlo solo di alternative tecniche, ma di alternative culturali.
È un caso fondamentale sul piano dell’immaginazione collettiva.
La tecnologia non è una costola inevitabile di un modello di potere economico, capitalistico o estrattivo: può essere costruita con altri obiettivi, su paradigmi diversi, con valori differenti. Possiamo pensare alla tecnologia come una manifestazione di sfruttamento, di accumulo delle risorse e di performance di potere, ma anche come uno strumento costruito su logiche diverse, che non siano solo orientate alla massimizzazione del profitto, al conflitto o a tutto ciò che come esseri umani preferiamo delegare a delle macchine per deresponsabilizzarci (di questo ne riparleremo presto!).
Per identificare gli utilizzi dell’IA che si basano su valori collettivi e risoluzione di problemi considerati altamente rilevanti dal punto di vista sociale si sente parlare di "AI for good". Si tratta di una formulazione viziata all'origine: se esiste un'IA “for good”, significa che implicitamente accettiamo che la norma sia un'IA che non lo è. Come se il bene fosse un'eccezione e non un criterio strutturale di progettazione. È ora di ribaltare questa prospettiva e di chiederci perché la tecnologia sia stata incasellata in uno spazio così ristretto di possibilità.
Pensare e mantenere questo paradigma (“c'è un solo modo di costruire l'IA, ed è il peggiore possibile”) senza metterlo in discussione cede un enorme potere di definire le traiettorie possibili a coloro che lo esercitano nel modo peggiore possibile. Quale modo migliore di dominare la quota di mercato se non quello di rendere la propria tecnologia assolutamente incompatibile e così completamente tossica che nessuno che voglia fare di meglio possa nemmeno provarci?
L'esistenza di modelli di IA alternativi, con i loro limiti e le loro implicazioni politiche, ci ricorda che la tecnologia non è mai una forza monolitica e che esistono spazi per ripensarla. Si tratta di riconoscere che essa è sempre il risultato di un processo culturale e politico, e soprattutto che questo processo può essere riscritto in diversi modi che produrranno alternative diverse.
Oggi ve ne racconto una.
Un viaggio nel Cile degli anni ‘70
L'11 settembre è una data importante per la storia moderna. Quel giorno, nel 1973, il primo presidente socialista democraticamente eletto del Cile, Salvador Allende, tenne la sua ultima trasmissione radiofonica. Poche ore dopo venne ucciso dal golpe militare, e con lui morirono vari esperimenti di alternative possibili. Tra questi, il primo progetto tecnologico sull’amministrazione cibernetica ed elettronica.
Quando Salvador Allende assunse la presidenza del Cile nel 1970, il suo governo si trovò immediatamente di fronte a una serie di sfide economiche e politiche significative. Il suo programma mirava a una transizione pacifica verso il socialismo, attraverso la nazionalizzazione delle principali industrie e la redistribuzione della ricchezza. Ma la gestione di aziende prima private e ora statali richiedeva nuove infrastrutture amministrative e decisionali. Gli Stati Uniti, temendo la diffusione del socialismo in America Latina e la perdita dei loro investimenti in Cile, attuarono una politica aggressiva di destabilizzazione economica. La CIA, come emerso da documenti declassificati, lavorò attivamente per creare difficoltà al governo di Allende, finanziando opposizioni interne e influenzando il settore privato. Inoltre, le sanzioni economiche limitarono l’accesso del Cile a tecnologie, capitali e materie prime essenziali per mantenere in funzione l’industria nazionale.
Portare le industrie più importanti del Cile sotto il controllo dello Stato costituiva un punto chiave della proposta politica di Allende, ma serviva un cambio radicale e un’infrastruttura in grado di supportare il processo. È così che nacque il progetto Cybersyn: i membri del governo cileno pensavano che i computer elettronici e la scienza interdisciplinare della cibernetica avrebbero potuto aiutare il governo a controllare la transizione economica del Paese. Come? Combinando la tecnologia esistente alla teoria dei sistemi, con lo scopo di creare una rete funzionale per la previsione, la gestione e il monitoraggio dell’economia nazionale. In questo modo, Cybersyn era in grado di fornire al governo dati aggiornati e strumenti decisionali agili.
Tra i protagonisti di questa storia c’era Fernando Flores, un funzionario del governo cileno allora 28enne. Flores coinvolse Stafford Beer, un pioniere britannico della cibernetica applicata alla gestione aziendale che a partire dagli anni Cinquanta si era ispirato al sistema nervoso umano per proporre una forma di gestione che permettesse alle imprese di adattarsi rapidamente a un ambiente in continua evoluzione. Oggi la chiameremmo intelligenza artificiale.
Alla vigilia della costruzione del progetto, Allende sapeva bene che per proporre un’alternativa socialista e democratica credibile aveva bisogno di garantire stabilità e prosperità. Cybersyn avrebbe permesso di raccogliere dati in tempo reale dalle industrie nazionalizzate e trasmetterli a un centro di controllo a Santiago, dove analisti e decisori politici avrebbero potuto monitorare l'andamento dell’economia e intervenire rapidamente per correggere squilibri o rispondere a crisi. Beer ha riproposto una sua vecchia idea, quella di una “Liberty Machine”, una macchina concettuale che mirava a contrastare l'inerzia burocratica creando nuove reti per la condivisione di informazioni quasi in tempo reale, al fine di facilitare il processo decisionale immediato e di evitare protocolli e procedure infinite. La conoscenza degli esperti, non la politica burocratica, avrebbe guidato la politica. Beer prevedeva che la Liberty Machine consistesse in una serie di sale operative che ricevevano informazioni in tempo reale e utilizzavano i computer per “distillare il contenuto delle informazioni”. Il sistema del Cile avrebbe infine incluso una sala di controllo - che sarebbe poi diventata il simbolo e l’immagine principale del progetto - alimentata dai dati raccolti quotidianamente dalle industrie controllate dallo Stato per fare previsioni statistiche sul comportamento economico futuro.
L’obiettivo non era solo migliorare la gestione economica, ma anche dimostrare che un socialismo tecnologicamente avanzato e democratico fosse possibile, differenziandosi sia dal modello sovietico che da quello capitalista occidentale.
Una volta individuata la possibile architettura tecnologica, studiata da Flores e Beer per ridurre i costi al minimo, il design del software di base venne appaltato a uno studio di Londra che lavorò a un proof of concept generale, mentre gli ingegneri in Cile continuavano a lavorare a una suite permanente che incorporasse i parametri specifici dell'economia cilena (un’organizzazione del lavoro equivalente a ciò che oggi si chiama fine-tuning quando si allenano sistemi di intelligenza artificiale su dati specifici). Il software utilizzava tecniche di previsione statistica bayesiana (le stesse alla base di tanti progetti di machine learning contemporanei come quelli raccontati negli altri episodi di questa newsletter) per riconoscere variazioni significative nei dati di produzione, prevedere il comportamento economico e rivedere velocemente le risposte.
Nel frattempo, Beer iniziò anche a formare un team per costruire un simulatore economico che, in una seconda fase, avrebbe potuto fungere da “laboratorio sperimentale del governo” permettendo ai decisori pubblici di sperimentare diverse politiche economiche a lungo termine. In sostanza, quelle simulazioni che oggi si fanno con i gemelli digitali ☺️. Era convinto che l'intero sistema - esseri umani e macchine - superasse la somma delle sue parti. Beer specificò: “Verrà prestata particolare attenzione allo sviluppo di interfacce uomo-macchina” concentrandosi ancora una volta sull'utente e privilegiando la comprensione umana rispetto all'appariscenza tecnologica: “la Sala Operativa non deve essere pensata come una stanza contenente apparecchiature interessanti, ma come una macchina di controllo che comprende uomini e artefatti in relazione simbiotica”.
A pochi mesi da quell’11 settembre 1973 iniziò una forte crisi: il sistema, seppur avanzato tecnologicamente, non avrebbe potuto affrontare i problemi crescenti come l'inflazione in crescita, la mancanza di credito estero, il calo dei prezzi del rame, il mercato nero e gli episodi di violenza. Flores passò dal considerare la scienza e la tecnologia come una parte fondamentale del processo rivoluzionario cileno a vedere i limiti di entrambe di fronte alla reale possibilità di un colpo di stato militare. Beer, al contrario, immaginò nuovi modi per incorporare i valori socialisti nella progettazione e nella costruzione di Cybersyn e teorizzò che tali valori incorporati avrebbero potuto cambiare le relazioni sociali in fabbrica e, più in generale, nella società cilena. Nel suo libro Cybernetic Revolutionaries, Eden Medina racconta che alcuni giorni prima che i militari ponessero fine al governo con la violenza, Allende chiese di spostare la sala operativa del Cybersyn all’interno del palazzo presidenziale. Anche se non arrivò mai a La Moneda, forse il presidente aveva pensato che per riprendere il controllo del suo Paese fosse necessaria anche quella rete: o per salvarla, o per distruggerla.
Sono tanti i modi in cui le persone hanno cercato di utilizzare le tecnologie informatiche e di comunicazione per realizzare cambiamenti sociali, economici e politici. La breve esistenza di Cybersyn ci deve ricordare che contesti politici diversi possono aprire nuovi spazi di possibilità tecnologica. Nel nostro presente, stiamo rivolgendo la nostra attenzione a quello che fa più rumore e attrae più potere economico. L'IA come tecnologia è il contenitore più recente di un sistema di credenze spesso puramente estrattivo e orientato al profitto, incentrato sulla sopravvalutazione della quantificazione, che enfatizza le categorie semplici e l'assegnazione ordinata di etichette. È una logica computazionale che può cambiare, perché non è c’è nulla di intrinsecamente legato a un unico sistema economico nella tecnologia e anzi, possiamo usarla per immaginare e costruire modelli alternativi.
🗓 Dove ci vediamo?
Martedì 19 febbraio alle 19:00 alla Redazione di Scomodo a Milano per una presentazione di Tecnologia della rivoluzione
Il 3 marzo alle 16:30 farò una presentazione online sul tema della non inevitabilità dell’intelligenza artificiale per il Responsible AI Lab del Nokia Bells Lab di Cambridge, UK. Se vi interessa, scrivetemi!
Il 24 marzo a Trento, alla bellissima Libreria duepunti, per una presentazione di Tdr
Il 25 marzo a Rovereto, allo Smart Lab, sempre per fare la stessa cosa :)
📬 Se siete arrivatɜ fino a qui, grazie di cuore! Per questo numero è tutto. Mi piacerebbe molto sapere cosa ne pensate, o se avete domande da condividere e/o suggerimenti. Potete sempre scrivermi a info@dilettahuyskes.eu. Se vi va di aiutarmi a creare questa piccola comunità di curiosɜ, potete condividere questa newsletter con altre persone che pensate possano essere interessate.
Ci sentiamo il prossimo mese (forse)!
Diletta