CALCULEMUS!
Leibniz, nella scia di Cartesio, invita a seguire la via della formalizzazione matematica. Il calcolo dovrà sostituire l’imperfetto linguaggio umano: ecco già deprivate le scienze umane, allo stesso tempo, di materiale d’osservazione e di linguaggi restitutivi: solo di ciò che è descrivibile in termini logico–formali è scientificamente rilevante.
Quo facto, quando orientur controversiae, non magis disputatione opus erit inter duos philosophos, quam inter duos computistas. Sufficiet enim calamos in manus suraere sedereque ad abbacos, et sibi mutuo (accito si placet amico) dicere: Calculemus!1
Bertrand Russel tradusse così:
If controversies were to arise, there would be no more need of disputation between two philosophers than between two accountants. For it would suffice to take their pencils in their hands, to sit down to their slates, and say to each other, “Let us calculate”.
«Characteristica universalis», così chiamava Leibniz questa algebra logica, questo linguaggio destinato a governare ogni ricerca scientifica.
A Russell piace tradurre pencil: lui i calcoli li faceva a mente e a mano. Ma Leibniz parla di abbacos, abbiamo tutti i motivi per intendere la parola latina non nel senso di ‘tavolino’, ma nel senso di ‘tavoletta per calcolare’: tavoletta coperta di polvere spostata secondo regole precise con una bacchetta.
L’immagine, rivista oggi, ci mostra dunque due tecnici informatici, entrambi esperti conoscitori delle macchine di cui ognuno di loro dispone, intenti a colloquiare tramite uno specifico linguaggio, agibile solo attraverso la macchina. Solo ciò che è calcolabile è degno di essere preso in considerazione. E più precisamente: solo ciò che è calcolabile tramite una macchina.
Di fronte a questa assiomatica scelta, buona parte di quel campo che possiamo chiamare ‘scienze umane’ appare svalutato a priori, inteso come un perdersi in chiacchiere.
Accade però che la calcolabilità sia messa in discussione, nel 1930, da Kurt Gödel. Gödel dimostra che in ogni teoria matematica esiste una formula che non può essere dimostrata. Dunque, ogni descrizione di un sistema è incompleta. Il puro e perfetto linguaggio universale della scienza sognato da Leibniz non è base sufficiente ed esaustiva per la ricerca scientifica. «Nessun calcolo può decidere un problema filosofico», chiosa Wittgenstein.2
Ma ecco che allora subito, sei anni dopo Gödel, interviene Turing tappando la falla. La soluzione, ancora una volta, è logico–formale. Turing propone di sostituire alla calcolabilità la computabilità. Quale è la differenza? Si rinuncia scientemente a cercare e a dar valore a ciò che non è calcolabile, contentandosi di ciò che è computabile. Cosa è computabile? È computabile ciò che può essere «written down by a machine».
La macchina che Turing immagina è costituita essenzialmente da un programma – possiamo chiamarlo anche procedura o algoritmo. Questo programma elabora i dati, espressi in numeri computabili, che gli sono sottoposti. Quali sono i numeri computabili? Sono i numeri che la macchina è in grado di elaborare. Viviamo oggi racchiusi in questa trappola. Siamo invitati ad accettare come immagine del mondo ciò che è visibile attraverso la computazione. Rinunciando a ciò che la computazione non riesce a vedere. Siamo anche invitati, tramite accurata propaganda, a dimenticare questo originario limite. Nel momento poi in cui si inizia a considerare confrontabili l’intelligenza artificiale – frutto più elevato della computazione – e l’intelligenza umana, i limiti della computazione finiscono per essere imposti a noi umani.
Un altro passaggio significativo verso quella cultura digitale che si riassume nell’immagine della trionfante immagine dell’Intelligenza Artificiale, e nella conseguente svalutazione delle scienze umane, prende le mosse da Darwin.
Ma è un darwinismo povero e duro: nell’evoluzione non sono ammesse biforcazioni, pause e accelerazioni, non è ammesso che una specie sappia trasformarsi per adattarsi all’ambiente, e sappia adattare a sé l’ambiente. Così la storia umana, con la propria capacità di elevarsi sopra la natura trasformandola, deve essere necessariamente sminuita. La specie umana stessa non fa che eseguire un algoritmo già scritto, il codice che governa l’evoluzione. La storia si identifica con il progresso. Il frutto del pensiero umano è trasferito a macchine. Non conta chi pensa: è l’evoluzione che pensa sé stessa, il pensiero è ospitato di volta in volta dall’ente temporaneamente più evoluto.
Un terzo passaggio appare punto di incontro tra la via di Cartesio e di Leibniz, la via del Darwinismo ridotto a determinismo, e la via computazionale di Turing. Si arriva così a neuroscienze, scienze cognitive, sociobiologia. Di fronte a queste discipline le scienze umane qualitative, empiriche, etnografiche, vicine alla storia e all’arte e alla letteratura, sembrerebbero sbaragliate.
Appare invece evidente come neuroscienze, scienze cognitive, sociobiologia non costituiscono certo le uniche vie attraverso le quali l’essere umano può essere studiato. Bisogna ricordare che neuroscienze e scienze cognitive non contemplano in realtà l’essere umano: separano la mente dal corpo, considerando in fondo, seguendo Cartesio, il corpo umano un’estensione irrilevante di una entità chiamata mente. Entità che però né scienziati né filosofi hanno saputo definire con precisione.
Bisogna anche ricordare che queste discipline si basano su una metafora fondativa: l’analogia tra mente umana e computer.
Accettata questa riduzione, l’osservazione e lo studio dell’essere umano sono svolte tramite schemi tali da permettere una parallela osservazione del funzionamento della macchina digitale. Si finisce così per descrivere l’intelligenza umana non osservando l’intelligenza umana, ma proponendo a priori categorie definite in modo tale da permettere di poter dimostrare che la macchina digitale è intelligente. L’intera epistemologia resta così chiusa in un approccio ricorsivo: guardo all’essere umano e vedo un computer.
MACCHINE CHE GUARDANO DALL’ALTO
Una pagina pubblicitaria apparsa in Germania nel 1933 mostra un perfetta sintesi, ancora del tutto attuale, le pretese implicite nell’Intelligenza Artificiale.
Su uno sfondo grigio, un grande occhio osserva dal cielo le cose del mondo: esseri umani, sistemi sociali e socio–tecnici. La pupilla richiama l’ingranaggio di una macchina: oggi sarebbe stata disegnata in modo da richiamare l’immagine di un circuito integrato o di una rete neurale. Oggi, non a caso, al luogo–mai–detto in cui sono conservate le informazioni, ombre delle umane conoscenze, è dato il nome di cloud. L’occhio–nuvola guarda dall’alto il mondo, detta regole, controlla, governa.
All’immagine già di per sé inequivocabile si aggiunge la parola: Übersicht. Über: sopra, sovrastante, superiore. Sicht: vista, sguardo, chiarezza.
L’occhio illumina dal cielo il profilo di un enorme edificio, che può apparire al contempo sia il profilo di un insediamento urbano, sia quello di una fabbrica. A lato dell’edifico un’alta ciminiera spande fumo nel cielo, a significare fervente attività, totalmente amministrata dalla macchina. Dietro l’edificio e la ciminiera una scheda perforata, per dirci che l’occhio conosce e governa attraverso i dati. Unica differenza determinata dai novant’anni trascorsi è la potenza della macchina: al posto dei pochi dati che una scheda può ospitare sta oggi la sterminata massa di Big Data, frutto di osservazione costante della macchina sul mondo.
Si legge al piede dell’immagine: mit Hollerith Lochkarten. Per mezzo della scheda perforata della macchina Hollerith. Possiamo dire oggi: per mezzo dell’Intelligenza Artificiale fondata sui Big Data. Qualche breve cenno di storia mostra come questa rilettura – novant’anni dopo nulla è sostanzialmente cambiato – sia perfettamente motivata.
Herman Hollerith nasce nel 1860 a Buffalo, nello Stato di New York. Il padre è un emigrato tedesco. Herman studia ingegneria. Lavora al censimento del 1880. Il Census Office è in origine una organizzazione temporanea che si attiva ogni dieci anni, in occasione del censimento. Il giovane Hollerith ha di che riflettere. L’elaborazione dei dati del censimento, affidata al lavoro manuale di computisti addetti a inserire i dati in tabelle, è destinata a durare anni.
Come Hollerith sa bene, le schede perforate vengono da lontano, sono in uso dalla fine del Settecento, e vantano già applicazioni di gran successo al lavoro di fabbrica: caso esemplare i telai Jacquard. Ma ora Hollerith trova il modo di utilizzare le punched cards per l’inserimento in tabelle – tabulazione – di enormi masse di dati. L’8 gennaio 1889 il suo brevetto – una macchina tabulatrice elettrica – è ufficialmente registrato. Dal 9 dicembre 1888 le sue prime macchine sono istallate presso l’United States Department of War. Le Hollerith machines sono quindi usate per tabulare i dati del censimento 1890. 43 macchine permettono ai 500 addetti di svolgere in due anni il lavoro che avrebbe altrimenti richiesto sette anni.
Ci si rende presto conto che, così come la macchina Hollerith tratta i dati relativi a una popolazione umana, può trattare i dati relativi ai clienti di una compagnia di assicurazione, e –via via generalizzando – i dati relativi a un qualsiasi prodotto che entra ed esce da magazzini, così come i dati di un carro merci su una linea ferroviaria.Macchine Hollerith fanno così il loro ingresso nel back office di grandi magazzini, aziende elettriche e del gas, industrie chimiche e farmaceutiche, acciaierie, compagnie petrolifere e, in particolare, nel trasporto ferroviario.
Nel 1910 Hollerith concede licenza dei suoi brevetti per la Germania a Willy Heidinger, commerciante di macchine addizionatrici, che fonda a Berlino la Deutsche Hollerith Maschinen Gesellschaft, DeHoMaG.
Un anno dopo Hollerith vende la Tabulating Machine Company a Charles Flint, questi a sua volta la vende a Thomas J. Watson. Fusioni con altre aziende del settore portano nel 1924 a una nuova denominazione: International Business Machines Corporation, IBM.
Thomas J. Watson, l’imprenditore che guida l’IBM, è anche Presidente dell’International Chamber of Commerce, ICC. D’accordo con Goebbels, fa in modo che il Nono Congresso dell’ICC – Herman Hollerith 28 giugno/3 luglio 1937 – abbia luogo a Berlino.
Alla seduta inaugurale partecipa Hitler, accompagnato da Göring e da Hjalmar Horace Greeley Schacht, Generalbevollmächtigter für die Kriegswirtschaft, Plenipotenziario Generale per l’economia di guerra.
L’ascesa al potere del Partito Nazional–Socialista ha reso fertile il terreno per le Corporation americane. La Standard Oil del New Jersey ha rapporti strettissimi con il trust tedesco IG Farben. L’Union Bank di New York è strettamente collegata con l’impero finanziario e industriale del magnate tedesco dell’acciaio Thyssen. La Ford Motor Company Aktiengesellschaft monta in Germania dal 1926 la Ford T. Dall’inizio degli anni Trenta sono solidamente insediate in Germania Du Pont, Union Carbide, Westinghouse, General Electric, Gillette, Goodrich, Singer, Eastman Kodak, Coca–Cola, ITT.
La DeHoMaG, filiale tedesca dell’IBM, non è quindi un caso isolato. Ciò che è diverso e unico, è il prodotto–servizio che la DeHoMaG offre. Lo speciale ruolo delle macchine Hollerith è già chiaro quando sono passati pochi mesi dalla salita al potere di Hitler, il 16 giugno 1933, ha luogo in Germania un censimento.
La scelta delle informazioni da chiedere ai cittadini non è innocente. Si deve definire con chiarezza ogni dato che si intende raccogliere. Ma si tratta anche di temi tecnici: definizione, raccolta e organizzazione delle informazioni, scomposte in unità elementari, in dati. Servono per questo macchine dedicate e specialisti dotati di una nuova professionalità. Alla qualità, al dettaglio dei dati raccolti si aggiunge la capacità di incrociare e organizzare le informazioni. Servono macchine Hollerith, macchine per il controllo sociale.
IBM, di fronte alle accuse di aver contribuito in modo significativo all’organizzazione della repressione sociale condotta dallo Stato nazista, di fronte all’accusa di aver fornito un indispensabile supporto alla persecuzione razziale e alla gestione dei campi di concentramento, e infine allo sterminio di massa, prende le distanze:«Dehomag came under the control of Nazi authorities prior to and during World War II». «IBM does not have much information about this period or the operations of Dehomag». Molti documenti sono andati distrutti durante la guerra. Altri documenti, negli archivi centrali della Corporation, sono stati distrutti successivamente, perché giudicati ormai obsoleti.
Ma a noi resta una immagine: il codice numerico tatuato sul braccio degli esseri umani chiusi nei campi di concentramento nazisti è l’anagrafica unica che identifica l’individuo, inteso esclusivamente come un insieme di dati, nella memoria delle macchine Hollerith.
Il cognome di Thomas J. Watson, tra i pochissimi stranieri gratificati da Hitler con il Deutscher Adlerorden mit Stern, Ordine dell’Aquila Tedesca con Stella, torna di attualità in tempi recenti. Nei tempi dell’Intelligenza Artificiale. Come aveva profetizzato Alan Turing, nel 1997 Deep Blue, macchina IBM, sconfigge, in una partita a scacchi, il campione Garry Kasparov. Watson è il nome della macchina IBM di generazione successiva: è in grado, si dice, di rispondere a domande poste in linguaggio naturale. Siccome l’Intelligenza Artificiale serve a educare il popolo, il gran successo di Watson consiste nello sconfiggere nel 2011 esseri umani di fronte alle telecamere in Jeopardy!, una sorta di Rischiatutto.3
MASSE
Masse und Macht, Massa e potere, saggio che è una sterminata ricognizione sul potere. Si risale agli istinti dell’uomo primitivo, si ripercorrono le epoche per spiegarsi il senso di quelle masse che in quei giorni, negli Anni Venti, occupano le piazze, mosse da un’enorme forza, ma prive di guida. Ma in realtà l’opera è frutto di osservazione partecipante. Di esperienza personale che segna in modo indelebile l’autobiografia.
A Francoforte, nel 1922, Elias Canetti, diciassettenne, osservava stupito passare i manifestanti.
Sono anni turbolenti e crudeli. Masse attraversano quel giorno la città in corteo, per ricordare l’assassinio del ministro Walter Rathenau.
Cinque anni dopo, a Vienna, partecipa lui stesso a una imponente manifestazione. Si immerge nel calore della folla indignata. È il 15 luglio 1927; cortei spontanei convergono verso il centro. Manifestanti pacifici e agitatori si confondono. Il Palazzo del Parlamento è strettamente presidiato dalle forze dell’ordine, non così il Palazzo di Giustizia, che viene incendiato. La polizia riceve l’ordine di sparare. Sarà una carneficina.
«Quel giorno tremendo, di luce abbagliante», ricorderà Canetti, «lasciò in me la vera immagine della massa, la massa che riempie il nostro secolo».4 Non è il solo a restare segnato da quell’evento. Si trova immerso in quella folla anche un medico trentenne, psicoanalista ormai affermato, Wilhelm Reich. «Quel primo incontro con l’irrazionalità umana fu un immenso shock», scriverà molti anni dopo.5 Reich coglie con lucidità la contraddizione, lo scontro tra «la domanda emergente dal popolo» e «l’incapacità delle organizzazioni a risolvere i problemi». Suscita una enorme impressione in Reich l’atteggiamento delle forze dell’ordine. Automi di–sumani, robot al servizio del potere, gli occhi spenti, impersonali strumenti di repressione opposti all’umana folla vociante, preda di un delirio collettivo, ma calda, vitale.
In quello stesso anno esce nelle sale Metropolis, il film di Fritz Lang e Thea von Harbou.
Osserviamo nel film masse di lavoratori dagli occhi spenti che marciano compatti, senza speranze, lavoratori ognuno dei quali è forse un Maschinenmenschin, macchina–uomo, uomo ridotto a macchina, macchina indistinguibile dall’uomo.
A questo spaesamento sociale, risponde il partito che organizza, inquadra, militarizza le masse.
Settembre 1934. Raduno di Norimberga, dove quattordici anni prima il Nationalsozialistische Deutsche Arbeiterpartei, NSDAP, era stato fondato. Festa, cerimonia, e al contempo dimostrazione al mondo della propria forza. Ora la macchina propagandistica deve mostrare che Masse e Capo sono reciproci Ersatz, sostituti.
Conosciamo bene quei quattro giorni di esaltata retorica, di messa in scena di una pretesa unione mistica tra il Führer e l’avanguardia del popolo tedesco: gli iscritti al Partito Nazional–Socialista. Conosciamo bene le scenografie e le coreografie progettate da Albert Speer. Conosciamo perché tutto è raccontato in modo efficacissimo in Triumph des Willens, il Trionfo della volontà, il film di Leni Riefenstahl. Sta, per via di questo film, nel nostro immaginario l’immagine di masse non più confuse nel calore di un corteo di protesta, ma ormai ordinate in serrate file al di sotto dell’altare del potere, masse ridotte a elementi di un’unica macchina. Masse uniformate dall’indossare un’unica divisa.
Il calore umano della folla mossa dall’indignazione, dalla scintilla della coscienza, che Elias Canetti e Wilhelm Reich percepivano sulla propria pelle, è rimosso. Gli esseri umani radunati dal partito nella grande spianata di Norimberga sono ridotti a simulacri. Sono ridotti alla propria ombra. Sono ridotti ai dati che li descrivono. Parliamo oggi di organizzazioni sociali data driven, parliamo di gemelli digitali di ogni cosa e di ogni persona.
Masse di popolo e masse di conoscenze digitalizzate si rispecchiano come guanti. Le nuove macchine Hollerith, le cosiddette intelligenze artificiali, sono comprensibili solo alla luce di questa storia – perché sono il frutto estremo di un progetto sociale e politico.6
MACCHINE PER GOVERNARE
Martedì 19 dicembre 1944, mentre è ancora in corso l’ultima offensiva tedesca nelle Ardenne, esce a Parigi il primo numero di un nuovo quotidiano, Le Monde. Nella nostra epoca, si legge nell’editoriale, i popoli sono immersi in un flusso di eventi dove gli esseri umani sono non solo spettatori, ma sempre anche attori. La vittoria militare non potrà bastare, serve una riconciliazione collettiva, la giusta condivisione di una responsabilità comune.
Quattro anni dopo, il 28 dicembre 1948, esce sulla terza pagina del quotidiano un articolo a firma di P. Dubarle. Il titolo recita: Vers la machine à gouverner… I puntini di sospensione parlano di come il concetto dovesse sembrare ardito agli occhi degli stessi redattori. Gli altri elementi del titolo lo confermano. Nell’occhiello si legge: Une nouvelle science: la Cybernetique. Il sottotitolo è una domanda: La manipulation mécanique des réactions humaines créera–t–elle un jour “le meilleur des mondes”? Segue un breve sommario: Les premiers grands relais du cerveau humain – Le dépassement du système nerveux – Les processus de la pensée probabiliste – Vers le bonheur (?) statistique des masses. I temi che settant’anni dopo ci appaiono nuovissimi sono qui già pienamente annunciati.
La manipolazione digitale dei comportamenti umani. L’illusione di un mondo migliore. La felicità garantita a un popolo ridotto a massa. L’intelligenza artificiale. Le neuroscienze. I modelli di simulazione. Gli algoritmi e l’analisi predittiva. Il tutto sintetizzato dal titolo: La Macchina per Governare.
Si tratta, almeno in apparenza, della recensione di un libro appena uscito a Parigi, in inglese, per l’editore Hermann & Cie: Norbert Wiener, Cybernetics. Or control and communication in the animal and the machine7.
L’autore dell’articolo è Dominique Dubarle, padre domenicano, filosofo, logico, cappellano dell’Union Catholique des Scientifiques Français. Cultore di studi cartesiani, era un fermo sostenitore della superiorità della “pensée calculatrice” su ogni altra manifestazione del pensiero. Per questa via padre Dubarle cercava l’«automatisation de la verité», l’automazione della verità.8
«Siamo solo assolutamente all’inizio della serie di possibili realizzazioni in questo senso – scrive Dubarle su Le Monde. – Possiamo sperare di creare entro breve tempo macchine funzionanti ancor più velocemente, capaci di affrontare problemi molto più estesi e più complicati con mezzi materiali molto meno costosi di quelli delle macchine attuali». «I primi grandi sostituti [relais] del cervello umano sono appena nati. Fatte le proporzioni sono così nuovi, così potenti rispetto ai consueti strumenti di calcolo quanto lo è un tornio automatico rispetto alla lima del fabbro». «Queste creazioni sono ancora in piena infanzia. Ma i primi balbettamenti di questa tecnica nuova testimoniano già un evidente surclassamento delle capacità organiche del cervello umano».
Dubarle aggiunge un commento: «Il fatto è verosimilmente ancora più importante della conquista dell’energia nucleare e della realizzazione della bomba atomica». Commento significativo, se ricordiamo che tutto questo è scritto nel 1948, anni in cui la bomba atomica è il simbolo di ogni paura, di ogni timore sul futuro.
Rileggere oggi quell’articolo mostra la pochezza di ogni novità digitale. Si accumulano oggi pagine che celebrano l’avvento dell’Intelligenza Artificiale, pagine dove si discetta della superiorità della macchina rispetto agli esseri umani. Tutto era già stato detto da padre Dubarle. Si può anche aggiungere che pochi tra i nuovi profeti dell’Intelligenza Artificiale si sono spinti tanto avanti quanto padre Dubarle sulla via dell’automazione della verità.
«Macchine la cui costruzione si mostra talvolta già possibile, e talvolta realizzabile in un periodo di tempo più o meno breve». Macchine per supplire ad un senso mancante, come permettere a un cieco di leggere. Macchine per vagliare le informazioni, in grado di garantire l’accesso alla «totalità delle produzioni della mente». Macchine per la gestione di servizi, come la gestione bancaria. Macchine da gioco: «si può concepire una macchina capace di giocare a scacchi meglio di ogni giocatore di medie capacità».
«Tutte queste macchine – spiega Dubarle – hanno un carattere comune. Raccolgono dei dati». A partire dai dati «lavorano metodicamente attorno a un determinato problema […] fino a fornire una soluzione e, se necessario, eseguire ciò che tale soluzione prescrive». Sintetizzando, «sono macchine per la raccolta e l’elaborazione di informazioni in vista di risultati sia di decisione che di conoscenza».
Dubarle non manca di aggiungere che «queste macchine di tipo così nuovo», «propongono [supposent] connessioni completamente nuove tra scienze che sembrano a prima vista molto lontane l’una dall’altra»; e allo stesso tempo «permettono di decifrare per analogia […] i meccanismi di alcuni funzionamenti organici che sono alla base della nostra vita mentale».
Solo a questo punto Dubarle inizia a parlare del libro di Wiener: «un libro straordinario, misteriosamente intitolato Cybernetics or control and communication in the animal and the machine». Il libro di Wiener, insomma, non è che un pretesto per parlare di tutto ciò che sette anni dopo troverà un immaginifico nome: Artificial Intelligence.
Le conseguenze della recensione, infatti, sono singolari. Dubarle si era spinto molto oltre il terreno sul quale Wiener si sentiva sicuro. Dalla pubblicazione dell’articolo nacque uno scambio epistolare. Wiener dedicherà poi all’articolo grande attenzione nella seconda edizione di The Human Use of Human Beings, versione divulgativa di Cybernetics.9 Wiener commenta: «Non c’è da temere che la machine à gouverner di Padre Dubarle possa raggiungere un controllo autonomo sull’umanità. È troppo rudimentale e imperfetta per avvicinarsi a una millesima parte del comportamento consapevole e indipendente [purposive independent behavior] dell’essere umano».
«Il vero pericolo, ben diverso, consiste nel fatto che le macchine, sebbene impotenti da sole, possano essere usate da un essere umano o da un gruppo di esseri umani per aumentare il loro controllo sul resto della razza umana».
Ecco riassunto con grande chiarezza il dibattito che oggi, settant’anni dopo, appare nuovissimo.10
SCATOLE NERE
Le cosiddette Intelligenze Artificiali Generative11 – il cui definitivo avvento possiamo datare con precisione tra la fine del 2022 e la metà del 2023 – non sono in fondo che una prosecuzione, con più efficaci mezzi, dell’Übersicht, dell’automatisation de la verité, della machine à gouverner. Infine, della sostituzione dell’umana conoscenza – un processo che parte dall’essere umano e torna all’essere umano – con pura informazione: massa di dati separati dalla fonte, resi anonimi, offerti a masse di esseri umani costretti in una posizione di passiva sudditanza.
Il motore di ricerca permetteva di affacciarsi sul Web, uno spazio psichico e sociale frutto di agire e pensare umano. Con l’Intelligenza Artificiale Generativa questo spazio psichico e sociale torna a essere negato. L’informatica, nata come mezzo per il controllo sociale, torna, dopo la stagione libertaria che offre Personal Computer, Internet e Web, torna a riannodare i fili del filone principale della propria storia: una storia di mezzi tramite i quali esercitare controllo sociale.
La sbandierata novità consiste in fondo solo in questo: una porzione casuale di ciò che il Web contiene è arbitrariamente estratta e affidata a una organizzazione interna regolata da algoritmi. Una porzione il cui criterio di scelta è: ‘il più grande possibile’. Conta esclusivamente la quantità; la massa indistinta. La qualità è considerata ininfluente e inutile. Le fonti dei dati sono considerate irrilevanti. La storicizzazione – il momento in cui il dato è stato generato – è considerata priva di rilievo.
La bontà, il valore delle risposte fornite dalla macchina è affidata all’interazione tra due sole variabili: la quantità dei dati e il lavoro degli algoritmi.
Si tratta dunque di una scatola nera, le cui logiche interne – così prevede il progetto – sono destinate a restare occulte agli stessi progettisti del sistema. Infatti il vanto del progettista consiste nell’addestrare la macchina a superare quel punto oltre il quale essa prosegue da sola, autosupervisionandosi, il proprio addestramento.
Gli esseri umani sono invitati a chiedere alla Intelligenza Artificiale Generativa risposte a ogni domanda. Fino al punto che, si afferma, se la macchina non è in grado di rispondere, o fornisce risposte errate, ciò è dovuto a un errore degli umani, incapaci di porre le domande corrette nel modo corretto. L’Intelligenza Artificiale Generativa, immaginifica espressione, è un pallido velo che nasconde un’informatica strumento di dominio e di repressione istintuale.
Ciò che avremmo potuto vedere, ciò che in quanto cittadini responsabili dovremmo cercare di vedere, la macchina ci impedisce di vederlo: il Web era deposito a cielo aperto, potremmo anche magari dire: era una discarica di immondizie. Ma era un luogo nel quale gli esseri umani potevano, con propri mezzi, offrire, conservare, cercare e trovare. Accogliere i ritrovati o scartarli. L’Intelligenza Artificiale Generativa, al contrario, è una macchina cieca che fornisce risposte a scatola chiusa; perché è, ripetiamolo, è una scatola nera.
NOTE
1Gottfried Wilhelm Leibniz, «De scientia universali seu calculo philosophico», in Die philosophischen Schriften von Gottfried Wilhelm Liebniz, Herausgegeben von Carl Immanuel Gerhardt, Weidmann, Berlin, Band VII, 1890; trad. it. in Gottfried Wilhelm Leibniz, Scritti di logica, a cura di Francesco Barone), Zanichelli, Bologna, 1968, pp. 233-244. (Testo non datato scritto attorno a 1680, forse 1684, certamente dopo 1674).
2Ludwig Wittgenstein, Philosophische Grammatik, Edited by Rush Rhees, Basil Blackwell, Oxford,1969, p. 296.
3Francesco Varanini, Macchine per pensare. L’informatica come prosecuzione della filosofia con altri mezzi, Guerini e Associati, Milano, 2016. «Macchine Hollerith»: pp. 155-162. «L’essere umano e i due modi si essere Turco»: pp. 235-249.
4Elias Canetti, Die Fackel im Ohr. Lebensgeschichte 1921-193, Hanser, München-Wien, 1980; trad. it. Il frutto e il fuoco. Storia di una vita (1921-1931), Adelphi, Milano, 1982, p. 256.
5Wilhelm Reich, Menschen im Staat, Prima parte; edito per la prima volta in inglese: People In Trouble, secondo volume di: The Emotional Plague of Humanity, Orgone Institute Press, Rangeley (Maine), 1953; poi Farrar, Straus & Giroux, New York, 1976, p. 7.
6Francesco Varanini, Macchine per pensare. L’informatica come prosecuzione della filosofia con altri mezzi, Guerini e Associati, Milano, 2016. Masse: p. 119-127
7Norbert Wiener, Cybernetics or Control and Communication in the Animal and the Machine, Hermann & Cie, Paris. Anche: J. Wiley & Sons, New York, 1948. Technology Press, Cambridge Ma., 1948; trad. it.: La Cibernetica, Bompiani, Milano, 1953.
8Dominique Dubarle, «L’esprit de la physique cartésienn», Revue des Sciences philosophiques et théologiques, 26, 2, 1937, pp. 213-243. Vedi in particolare p. 235.
9Norbert Wiener, The Human Use of Human Beings. Cybernetics and Society, Houghton Mifflin, Michigan, 1954, cap. X: «Some Communication Machines and Their Future» [Seconda edizione. Prima edizione: 1950]; trad. it. Introduzione alla cibernetica, Boringhieri, Torino, 1961.
10Francesco Varanini, Le cinque leggi bronzee dell’era digitale. E perché conviene trasgredirle, Guerini e Associati, Milano, 2020. «Quarta legge: Lascerai alla macchina il governo», pp. 151-159.
11Francesco Varanini, Splendori e miserie delle intelligenze artificiali. Alla luce dell’umana esperienza, Guerini e Associati, Milano, 2024, pp. 85 e segg.