Skip to content


Sull’irrazionalità delle Intelligenze Artificiali

Stefano Isola è professore ordinario di Fisica Matematica nell’Università di Camerino. Apprezzo molto i suoi libri, che sono capaci di coniugare la competenza tecnica delle scienze dure con la lucidità civile e l’impegno politico. Il suo recente A fin di bene: il nuovo potere della ragione artificiale (2023) è l’analisi più completa e plausibile che abbia letto su questo tema. Qualche giorno fa, il 4 luglio 2024, Isola ha pubblicato sulla rivista ACrO-Pólis un breve intervento nel quale analizza l’utilizzo delle Intelligenze Artificiali nel genocidio del popolo palestinese e inserisce tale dinamica nel contesto assai più ampio della storia attuale e delle sue tecnologie. Il testo si trova qui: Nuovo brutalismo e ragion artificiale. Ne riporto alcuni significativi brani, invitando a leggerlo integralmente per capire davvero in quale ambiente siamo immersi.

========= 

In una conferenza su Lo spirito europeo e il mondo delle macchine, tenuta a Ginevra nel 1946, Georges Bernanos affermò, tra le altre cose, che le civiltà muoiono come gli uomini, ma non lo fanno allo stesso modo, perché in esse la decomposizione precede la morte. L’immagine di un carogna in decomposizione rende bene, mi sembra, l’idea del tipo di mondo in cui viviamo, perlomeno nel cosiddetto Occidente, in cui corruzioni multiformi e cangianti mescolano e sfigurano tutto, cancellando i confini tra le cose e rendendocele così penosamente illeggibili. […]  

L’attuale sterminio genocida perpetrato a Gaza dall’IDF, ad esempio, si caratterizza come una delle peggiori voragini umanitarie della storia, certamente per la sua diabolica efferatezza, ma anche per il fatto di essere trasmesso in diretta audiovisiva, ovunque, orizzontalmente, e di essere perciò osservabile da chiunque voglia informarsi, e, nonostante questo, non solo non viene fatto quasi nulla per fermarlo, ma si continua ad inviare armi micidiali per la sua perpetuazione. Nella dimensione iperreale in cui siamo immersi, la diffusione in rete di un massacro di bambini palestinesi con droni controllati a distanza coesiste senza difficoltà con le discussioni sui concorsi della canzone spazzatura internazionale, sulle gare sportive o sulle disavventure sentimentali di qualche influencer, in un centrifugato di informazioni e intrattenimento che induce un’ipnosi collettiva assai più efficace della tradizionale censura, poiché elimina alla radice la ricerca di un riferimento reale, rendendo le persone insensibili alla contraddizione, impermeabili al dubbio e in definitiva incapaci di pensare. In questa totale dissonanza cognitiva risiede l’essenza del brutalismo politico e morale che si sta affermando ovunque nelle nostre esistenze collettive, seguendo il quale le nobili istituzioni del mondo libero, agendo come sicari per conto del grande capitale, oggi partecipano attivamente allo sterminio degli “animali umani” palestinesi, ucraini, russi. […] 

L’attuale escalation militare si inserisce infatti in una più generale escalation tecnologica che già da alcuni decenni per molti suoi aspetti ha i tratti di una vera e propria guerra ibrida contro la vita sulla Terra e contro l’umanità, ed alla quale la farsa pandemica ha impresso una potente accelerazione. Le emergenze che si susseguono ininterrottamente, saltando da una “crisi” all’altra senza soluzione di continuità, sembrano tutte aver ormai adottato una medicina comune: la spinta fanatica alla digitalizzazione di tutto. Emergenza permanente e digitalizzazione sembrano due poli indissociabili che si alimentano a vicenda. […]
Una gestione che implica la progressiva eliminazione del contributo umano dagli accadimenti significativi, insieme alla  moltiplicazione di entità evanescenti che ci allevano – in senso zootecnico – e ci tolgono ogni  responsabilità. […]  

Il tipo di controllo sulla popolazione esercitato dalla ragione artificiale si basa essenzialmente su criteri comportamentali, ed implementa il passaggio “obbligato” dall’idea (alla base della ragione liberale) dell’individuo autonomo che prende decisioni razionali per se stesso, senza riferimenti ad alcuna comunanza di natura con altri esseri, a quella di un decisore “situato”, il cui comportamento è in gran parte reso automatico ed influenzato dal suo “ambiente di scelta” (pienamente compatibile con la parodia dell’individualismo dei desideri rivendicati come diritti). […]
Ciò con cui abbiamo a che fare sono piuttosto entità destinate a divenirci aliene, cioè capaci di prendere decisioni in modi e forme autonome e per noi incomprensibili. Il punto chiave è che si sta passando da macchine che supportano compiti e obbiettivi umani, a macchine che simulano intenzioni e decisioni umane attraverso algoritmi predittivi e al tempo stesso del tutto imperscrutabili: neppure gli ingegneri informatici che l’hanno progettata possono sapere che cosa succede dentro la “scatola nera” di una rete neurale profonda, e dunque come l’algoritmo sia arrivato ad uno specifico risultato. […] 

Sono disponibili software che consentono di decidere sulla base di correlazioni tra dati di ogni tipo, senza alcun riferimento al contesto o al significato, presupponendo la possibilità di prevedere, ad esempio, se un cittadino commetterà un crimine, se un candidato per un impiego sarà abbastanza collaborativo, se uno studente abbandonerà gli studi prima del tempo, se un potenziale debitore restituirà un prestito o se una persona avrà bisogno di una particolare assistenza medica. Una dimensione totalitaria che prefigura una totale inversione dell’onere della prova, reintroducendo un criterio analogo a quello dei processi per stregoneria: si è colpevoli in quanto accusati.
L’intreccio inestricabile di correlazioni significative e correlazioni spurie nei big data (queste ultime derivanti solo dalla numerosità e non dalla natura dei dati), assegna a questo tipo di decisionalità algoritmica una dimensione marcatamente irrazionale, perché basata sull’idea “psicotica” che tutte le connessioni siano significative, indipendentemente dal riconoscimento di nessi causali. Tale caratteristica è strutturale, non è dovuta ad inefficienze o imprecisioni tecnicamente modificabili. […]
Detto in altri termini, un algoritmo non può propriamente “sbagliarsi” (il che comporterebbe l’inserimento in un contesto linguistico condiviso), dunque non può avere “ragione” o “torto”, ma può mentire, e lo fa spesso, senza tuttavia “sapere” di farlo. Mentire senza sapere di farlo è precisamente ciò che rende la ragione artificiale pericolosa e al tempo stesso paradigmatica del tipo di mondo, iperreale, in cui stiamo entrando. […] 

Un analogo tipo di decisionalità algoritmica è in atto nella guerra robotica: lo sterminio di esseri umani e la distruzione sistematica e diffusa di abitazioni, servizi e infrastrutture civili in Palestina è perpetrato da Israele attraverso sistemi di IA, noti come The Gospel, Lavender e Where’s Daddy?, che elaborano in tempo reale enormi masse di dati su tutto ciò che vive e si muove su quel territorio, e generano a velocità spaventosa molte centinaia di obiettivi al giorno, assegnando a persone ed edifici un “punteggio” che indica probabili “correlazioni” con Hamas. La guerra “intelligente” dell’IDF è un esperimento genocidario basato su modalità di ottimizzazione automatica che lo rendono, di nuovo, omologo a un videogioco. […] 

L’esempio israelo-palestinese, per quanto possa apparire (per ora) estremo, ci aiuta a comprendere come la ragione artificiale operi una sintesi originale tra sterminio e burocrazia, agendo come una forma di colonialismo totalitario sul proprio stesso terreno. In effetti, le stesse dinamiche espansive e colonialiste che hanno caratterizzato le precedenti fasi storiche del dominio occidentale sul mondo, non potendo più esercitarsi sull’esterno (per complesse ragioni economiche e geopolitiche) si rivolgono ora verso il suo interno (anche il cosiddetto “grande reset” promosso dal WEF pare stia mutando traiettoria, e da progetto planetario si sta trasformando in progetto autoritario per il solo Occidente). In tale dinamica il collasso interno del modo di produzione viene subdolamente e sistematicamente negato attraverso la sua proiezione esterna, incarnata da provvidenziali nemici: il virus, il cambiamento climatico, i barbari assetati di sangue democratico e, puntualmente, le misure adottate per farvi fronte dall’attuale capitalismo emergenziale, digitale e autoritario, reiterano, su una scala sempre più granulare, la brutalità coloniale sulla sua stessa popolazione. […]
In questo senso, Gaza rappresenta non una singolarità storica e geopolitica, ma un possibile destino di disumanizzazione che ci attende tutti.

Decadenze

La nostra è una civiltà che dall’evo moderno, in particolare dall’affermazione dell’etica calvinista, ha sacralizzato il lavoro, che invece è una esigenza data dai limiti del vivente.

Alla vista del lavoro -e con ciò si intende sempre quella faticosa operosità che dura dal mattino alla sera- si sente oggi che il lavoro come tale costituisce la migliore polizia e tiene ciascuno a freno e riesce a impedire validamente il potenziarsi della ragione, della cupidità, del desiderio d’indipendenza. […] Così una società in cui di continuo si lavora duramente, avrà maggior sicurezza: e si adora oggi la sicurezza come la divinità somma.

(Nietzsche, Aurora. Pensieri sui pregiudizi morali, trad. di F. Masini, Adelphi 1964, § 173, pp. 126-127).
Un’etica del successo/guadagno che si sta capovolgendo nella privazione del lavoro – e quindi dei mezzi necessari alla sopravvivenza – per gli umani, sostituiti sempre più da macchine, robot, algoritmi.
Una civiltà che ha dimenticato, e direi proprio smarrito, le differenze nella melassa della globalizzazione che tende a cancellare «l’aspirazione e la decisa volontà dei popoli di affermare e conservare la loro principale ricchezza, incarnata nella rispettiva specificità» (M. Tarchi, Diorama Letterario 363, settembre/ottobre 2021, p. 2).
Una civiltà, intrisa appunto di «un calvinismo puritano ossessionato dalla purezza morale e dall’espiazione illimitata» (A. de Benoist, ivi, p. 10), dove la colpa va diventando l’essere bianchi e quindi per definizione sterminatori, l’essere maschi e quindi per definizione stupratori. In realtà è l’universalismo  negatore delle differenze a favorire l’imperialismo sterminatore degli umani e delle loro varietà. Non è un caso che l’Inghilterra, da dove iniziò il dominio storico del calvinismo anglosassone, abbia nel corso dei secoli «aggredito, invaso, occupato 173 dei 193 attuali Stati membri delle Nazioni Unite» (E. Zarelli, ivi, p. 24). L’universalismo/globalismo tende a cancellare le identità, le differenze, le culture, i costumi e i riti che «trasformano l’essere-nel-mondo in un essere-a-casa, fanno del mondo un posto affidabile. Essi sono nel tempo ciò che la casa è nello spazio. Rendono il tempo abitabile, anzi lo rendono calpestabile come una casa. Riordinano il tempo, lo curano» (Zarelli, p. 38).
Prendersi cura del tempo che si è significa riconoscerne ogni giorno e sempre la potenza e quindi avere qualche strumento in più per comprendere e accogliere la finitudine che siamo senza cadere in un fanatismo securitario che è destinato al fallimento poiché, semplicemente, tutto ciò che è nato è destinato a perire. Discutendo del volume di Simone Regazzoni La palestra di Platone (Ponte alle Grazie, 2020), Davide D’Intino ricorda quanto distante sia la civiltà greca -e in generale antica- dal timore e tremore contemporaneo, dalla

indecorosa risposta offerta sul piano antropologico alla vicenda epidemica da una società ormai incapace di rapportarsi alle idee stesse del dolore e della morte, disallenata a combattere e quindi a reagire senza farsi fagocitare dal panico, misurandosi con uno dei suoi naturali attributi: la componente rischio. Secoli di mortificazione della corporeità, derubricata irresponsabilmente al rango di peccaminosità, non potevano che dar corpo, nel perfetto compiersi di una eterogenesi dei fini, ad un individuo  introflesso nel solipsismo più deteriore, così inerte da accettare senza neppure un sussulto di ribellione la caduta della sua esistenza dalla condizione del vivere a quella del vegetare, talmente ossessionato dalla propria salute da rinchiudersi in casa sprofondando nella sedentarietà, aduso alle salubri prelibatezze dell’industria alimentare e pago di farne incetta trascorrendo le proprie giornate alienandosi davanti ad uno schermo (ivi, p. 36).

Una civiltà stanca, in fondo, della vita. Lo si sta vedendo ogni giorno, tutti i giorni.

Post-ecologia

Transcendence
di Wally Pfister
USA, 2014
Con: Johnny Depp (Will Caster), Rebecca Hall (Evelyn Caster), Paul Bettany (Max Waters), Morgan Freeman (Joseph)
Trailer del film

Trascendenza è il modo in cui il Dottor Will Caster chiama la Singolarità. Nel linguaggio della Artificial Intelligence quest’ultima è l’ipotizzato momento nel quale i software, l’hardware, l’insieme delle ‘macchine per pensare’ prenderanno coscienza di esistere, diventeranno Dasein.
A questa singolarità lavorano davvero, nella realtà non al cinema, vari centri di ricerca sparsi per il mondo. La finzione del film comincia quando Caster, un informatico strepitoso e visionario, subisce un attentato da parte di gruppi neoluddisti. Sembra che la pallottola lo abbia colpito di striscio ma è stato sufficiente a immettere nel suo corpo un veleno radioattivo che a poco a poco lo uccide. Dandogli però il tempo, con l’aiuto della moglie/collega e di un amico medico e informatico, di sperimentare su se stesso le procedure del PINN (Physically Independent Neural Network), il progetto da lui ideato di ibridazione tra un organismo biologico e la Rete. Caster muore e le sue ceneri vengono disperse ma la sua mente sembra rinascere nei circuiti digitali. Sino a moltiplicarsi, espandersi, diventare così potente da guarire i ciechi, gli storpi, restituire vita. Vite che però diventano delle entità sottomesse al Grande Essere Digitale, il GED del quale parlai nel 2009:

«la forma nella quale probabilmente i corpi e le intelligenze si fonderanno in una connessione continua di memoria operativa, database conservativi e comunicazioni in tempo reale. Se il GED sarà, esso verrà costituito non da robot diventati padroni del mondo o da androidi ma da quella fusione di biologico e protesico che l’umanità è da sempre. Non bisogna, infatti, confondere entità assai diverse come –appunto- i robot, gli androidi e il cyborg. […] Il cyborg, invece, costituisce il presente e la stessa storia dell’umanità, poiché è la fusione tra un organismo biologico e una macchina o una funzione che modifica la struttura di base dei corpi. […] La natura protesica, metamorfica, estendibile del corpo, che è da sempre pronto a trasformarsi, adattarsi, evolvere, potenziarsi; il legame profondo e articolato dell’umano con le macchine intelligenti da esso prodotte»
(La mente temporale. Corpo Mondo Artificio, Carocci, p. 253).

A questo punto del film il governo si allea con i gruppi luddisti per fermare l’entità che si sta espandendo nello spazio e nel tempo, nella materia e nella memoria. Un’entità che si incarna nel  Dott. Caster di nuovo fisicamente vivo, capace di abbracciare la moglie e stabilire con lei che cosa fare, come sopravvivere o morire, in che cosa trasformarsi.
Come si vede, l’idea di Transcendence è profonda, direi preziosa e visionaria. La realizzazione è invece  banale, come se Hollywood non riuscisse quasi mai ad andare al di là del genere western. È comprensibile, vista la natura infantile e manichea della società statunitense, ma rimane un limite che taglia le ali anche ai progetti più interessanti. In questo caso l’interesse sta nell’atteggiamento panteistico e animistico dell’agente Smith di Matrix diventato qui PINN/Caster. L’agente Smith -lo ricordo– è una macchina in forma umana la quale afferma che all’inizio del loro potere i computer/software avessero immaginato un mondo felice, tranne però poi constatare che gli umani non riuscivano a viverci dentro, tanto da costringerli a modificare il programma. In quel film fondativo l’agente Smith si rivolge agli umani con queste parole:

«Voi non siete dei veri mammiferi: tutti i mammiferi di questo pianeta d’istinto sviluppano un naturale equilibrio con l’ambiente circostante, cosa che voi umani non fate. Vi insediate in una zona e vi moltiplicate, vi moltiplicate finché ogni risorsa naturale non si esaurisce. E l’unico modo in cui sapete sopravvivere è quello di spostarvi in un’altra zona ricca. C’è un altro organismo su questo pianeta che adotta lo stesso comportamento, e sai qual è? Il virus. Gli esseri umani sono un’infezione estesa, un cancro per questo pianeta»
(Andy & Larry Wachowski, The Matrix, 1999).

Concordo con l’agente Smith.
L’immagine di apertura è stata scattata su Marte, dove non ci sono sofferenze, non ci sono virus, non c’è la morte, non c’è nessuna crudeltà; ci sono soltanto materia e luce, ci sono soltanto campi di energia, c’è soltanto la potenza delle rocce e delle stelle dalle quali derivano.

Postumanismo antropodecentrico

Oltre l’etica: un approccio antropodecentrico all’intelligenza artificiale
con SELENIA ANASTASI
in Rivista Internazionale di Filosofia e Psicologia
Anno 11 – Numero 2/2020
Pagine 251-258

Sono contento di aver scritto questo saggio sull’Intelligenza Artificiale insieme alla mia allieva e amica Selenia Anastasi, la cui competenza sui temi dell’IA e del postumano è ampia e profonda.
Come afferma il titolo, abbiamo cercato di presentare e proporre una prospettiva sull’Intelligenza Artificiale che eviti tecnofilie e tecnofobie, che si liberi dai limiti antropocentrici dell’etica e dalle troppo ripetute banalità sociologiche. Abbiamo insomma cercato di pensare una delle dinamiche fondamentali del nostro tempo, di avere quindi «un approccio teoretico».
Il testo è articolato nei seguenti paragrafi:
-Il progetto
-La superintelligenza
-Il problema del controllo
-Sull’approccio etico all’intelligenza artificiale
-Per un approccio teoretico

Abstract
Sviluppandosi sul piano della “prevenzione del rischio”, dei “livelli di controllo” in fase di programmazione e del possibile inserimento dei cosiddetti “algoritmi etici”, il dibattito sul presente e il futuro dell’Intelligenza Artificiale, ha favorito nel corso degli anni la creazione di una sempre più profonda spaccatura tra discipline “tecniche” e saperi “umanistici”, tra il dominio del “fare” e il dominio del “pensare”. Prendendo atto di questa sterile distanza, occorre mettere in questione i metodi dell’etica e interrogarsi sull’efficacia e l’utilità della teoria e, più in generale, meglio definire la relazione che la filosofia oggi intrattiene – e potrà ancora intrattenere – con le macchine progettate per pensare e con i loro progettisti.

Beyond ethics: An anthropodecentric approach to artificial intelligence
The ethical and philosophical debate around the present and future of Artificial Intelligence has grown in intensity over the years. Continual development within AI in terms of “prevention of risks”, “levels of control in programming”, and the inclusion of so-called “ethical algorithms”, has encouraged an ever deeper split between “technicians” and “humanists”, between the domains of “making” and “thinking”. Focusing on this unproductive distance, we interrogate ethical approaches methods and the effectiveness and utility of ethical theories. More generally, we attempt to better define the relationship that philosophy has today – and will be able to maintain in the future tomorrow – with machines designed to think and with their designers.

Ibridazione

Martedì 10.12.2019 alle 17,00 nell’aula Minutoli della Scuola Superiore di Catania svolgerò una lezione dal titolo Natura Cultura Ibridazione.
L’incontro fa parte di un ciclo dedicato al Post-Human Enhancement, organizzato dalla ‘Rete Italiana degli allievi delle Scuole e degli Istituti di studi superiori universitari’ (RIASISSU).
Le lezioni svolte in altre Scuole Superiori hanno affrontato il postumano da prospettive neurobiologiche, giuridiche, sociologiche. A Catania tenteremo di indicare le radici teoretiche di una tematica che è e sarà sempre più al centro del divenire collettivo e individuale.
Cercherò di argomentare l’unità di natura/cultura nell’Animal symbolicum che è Homo sapiens. Discuterò tre definizioni sociologiche e due teoretiche del concetto di cultura. Evidenzierò come l’antropologia sia in realtà sempre una antropobiologia: γνῶθι σεαυτόν indica la necessità di comprendere le strutture naturali dell’essere umano, con i suoi limiti biologici e con le sue possibilità di trasformazione. L’antroposfera esiste infatti soltanto perché coniugata alla zoosfera, alla tecnosfera e alla teosfera. Definirò poi i concetti di Natura, Tecnologia e Artificio, che confermano la struttura intrinsecamente protesica dell’umano. Distinguerò ulteriormente robot, androidi e cyborg. Anche a partire dai legami e dalle differenze tra postumano, iperumano e transumano proporrò alcune riflessioni sulla tecnica, il cybercorpo e le strutture ibridative. Concluderò ribadendo la finitudine come orizzonte di ogni oltre dell’umano.
L’immagine della locandina è un particolare dell’Apollo e Dafne di Bernini (1622-1625), che trasferisce nel marmo i versi di Ovidio: «Ha appena finito questa preghiera, che un pesante torpore le pervade le membra, il tenero petto si fascia di una fibra sottile, i capelli si allungano in fronde, le braccia in rami; il piede, poco prima così veloce, resta inchiodato da pigre radici, il volto svanisce in una cima. Conserva solo la lucentezza» (Metamorfosi, I, vv. 548-552; trad. di Piero Bernardini Marzolla). Mentre si trasforma in alloro, Dafne remanet nitor unus in illa, conserva solo la lucentezza. L’ibridazione è anche la luce della materia che diviene.

Sul sito della SSC si può leggere una sintetica scheda dedicata all’evento.

Intelligenza

Filosofia, Intelligenza Artificiale e apprendimento 
in Punti Critici, 9 – marzo 2004
Pagine 57-83

L’editrice Petite Plaisance ha completato la riedizione integrale della rivista Punti Critici.
Nel numero 9 del marzo 2004 uscì un mio saggio dedicato alla questione dell’Intelligenza Artificiale da una prospettiva antropologica e pedagogica, oltre che mentalistica. In esso mi chiedevo: «Se il pensare è una caratteristica specifica della nostra specie, può il pensiero nascere e operare fuori da un legame strettissimo con il corpo? I ‘qualia -le sensazioni che si provano a essere un determinato ente e non un altro -, le esperienze fenomeniche, individuali, qualitative possono essere separate dal legame con l’organico, coi sensi, con il biologico?».
In questo testo, e poi in altri che sono seguiti, ho cercato di rispondere a partire anche da una embodied cognitive science, che «alla interpretazione puramente simbolico-sintattica della mente sostituisce la prospettiva per la quale mente, cervello e mondo sono parti di un’unica struttura».

I precedenti saggi pubblicati su Punti Critici si possono leggere qui:

Educazione e antropologia
in Punti Critici, 2 – settembre-dicembre 1999
Pagine 27-46

Sulla «Grande Riforma» della scuola italiana
in Punti Critici, 5/6 – dicembre 2001
Pagine 163-176

Per una filosofia dell’informazione
in Punti Critici, 8 – ottobre 2003
Pagine 141-146

Vai alla barra degli strumenti