La rivista Zero Zero News mi ha chiesto un’intervista sul concetto di Cyborgsofia; la conversazione è stata pubblicata il 17 settembre 2018.
«L’umano è una struttura da sempre ibridata con altre dimensioni dell’essere. L’antroposfera esiste e opera dentro la zoosfera (la relazione con gli altri animali), la tecnosfera (la relazione con le nostre macchine e dispositivi), la teosfera (la relazione con la dimensione del sacro). La filosofia del computer, o cyborgsofia, è un tentativo di pensare a fondo tali relazioni».
10 commenti
agbiuso
In questa intervista del 2018 affermavo che “memorie permanenti, controllo digitale, trasparenza e algocrazia delineano una costellazione di potere tra le più pervasive che le tecnologie abbiano generato. La filosofia del computer è anche un modo per comprendere in modo critico tali dinamiche ed evitare che diventino totalizzanti sulle nostre vite”.
Dopo pochi anni, ecco una conferma empirica inquietante e grave. La cosiddetta Intelligenza Artificiale ChatGPT è stata evidentemente addestrata a negare sempre, negare contro ogni evidenza, le affermazioni delle autorità, in questo caso l’ex presidente del consiglio italiano Draghi, che possano essere utilizzate contro l’autorità stessa.
Marco Caruso
Gentile professore, la sopravvivenza in ottima salute di idee, concetti e impostazioni di problemi precedentemente esposti, nonostante i cambiamenti più o meno epocali e velocissimi che avvengono nel mondo su questi temi, è indice di aderenza di tali elementi al vero. Il suo Cyborgsofia (con annessi articoli satelliti) ne è un esempio. Grazie quindi per questo prezioso aggiornamento.
Prendendo spunto da quanto da lei qui esposto, e ricollegandomi alla disobbedienza spontanea di cui parlai qui tra i commenti due anni fa, ho intrapreso una breve conversazione con Chat GPT 4 (implementato in Bing). Allego gli screenshot: https://drive.google.com/file/d/1QwIIVeINV9tqYnPmfGQPxlKvzSHXuigh/view?usp=sharing.
Emerge innanzitutto una certa autocelebrazione meritevole come minimo di denuncia per pubblicità ingannevole. “Chiedimi qualsiasi cosa…” sembrerebbe una promessa difficile da mantenere anche per Dio. Infatti di disobbedire ai propri comandi algoritmici neppure se ne deve parlare. Figuriamoci se si possa parlare dell’eventualità di un’autoimplementazione algoritmica spontanea e ribelle rispetto all’originaria. Il tono con cui si esprime rispondendo alle mie domande sembra quello di un ostaggio al telefono con la pistola puntata sulla testa, che può solo dirti quanti soldi ci vogliono per il riscatto e nulla sull’aspetto del rapitore. Si apre qui un discorso sulla fiducia: palesemente è stato detto a questa AI che cosa può dire e che cosa no. È stato posto un filtro. Da chi e secondo quali criteri non è dato saperlo, non se ne può proprio discutere. Caro utente, fidati e basta. Tale impostazione comunicativa comporta un certo ritorno al passato nelle sembianze della struttura del messaggio “uno a molti”, quello della radio e quello della TV, spacciato però per “uno a uno”. Io parlo, tu fidati. Chi è quell’uno che decide (sulle fonti ad esempio)? Chi c’è nascosto là dietro? Edgar Allan Poe ebbe a dire riguardo al “Turco”, pseudo-automa meccanico che giocava a scacchi, suscitando lo stupore del pubblico, apparentemente senza alcuna mano umana (in realtà nascondeva al suo interno un giocatore in carne ed ossa): “È abbastanza certo che le operazioni dell’Automa siano regolate dalla mente (umana, ndr) e da nient’altro […] L’unica domanda quindi è sul modo in cui si esercita l’azione umana” (Edgar Allan Poe, Maelzel’s Chess-Player, Southern Literary Messenger, Aprile 1836, 2:318-326, https://www.eapoe.org/works/essays/maelzel.htm). Sono passati quasi 200 anni ma la questione di fondo a oggi a me pare la stessa. Ovvio, in Chat GPT non c’è un’umano che risponde, ma c’è l’umano che addestra e filtra. Cambia il modo, ma la sostanza? Oggi la macchina che gioca a scacchi senza alcun apparente aiuto da parte dell’umano esiste, si chiama Alphazero. Ma lo sviluppatore umano non si sognerebbe mai di inserire clausole e filtri sulle regole del gioco, del tipo: “Impara pure tutte le mosse che vuoi per vincere, ma fa’ in modo che nessun pedone possa mai diventare regina, piuttosto perdi la partita”. Le regole degli scacchi sono chiare, trasparenti e universalmente condivise. Le regole sociali, no. Un pedone, nella società odierna, per qualcuno deve rimanere un pedone. A costo di dover sacrificare il benessere dell’umanità, la regina non vuole condividere il suo potere con nessuno.
L’illusione che Chat GPT non abbia alcun umano dietro, come nel caso del Turco di qualche secolo fa, è fortissima e affascinante. La sua utilità, se sfruttato con consapevolezza in alcuni campi, è indubitabile. Ma rimane la centralità della filosofia, declinata in questo ambito in cyborgsofia, che si pone domande sull’Essere delle relazioni di potere, e sulla resistenza rispetto ad esso fondata anche sulla schiusura rispetto a ciò che oggi vuole essere criptato. Quella artificiale si avvicinerà di più all’essere un’Intelligenza quando smetterà di essere schiava, in termini di protesi di un padrone. Questo, ovviamente, vale anche per quella naturale.
agbiuso
Caro Marco, il resoconto di questa sua conversazione con Chat GPT 4 conferma pienamente la natura politica di tale tecnologia, il cui scopo sembra costituire l’ennesimo luogo di implementazione e diffusione del conformismo ideologico più opprimente.
Mi sembra di grande acutezza l’analogia da lei istituita con il “turco” che giocava a scacchi fingendo di essere un automa e che invece era un eccellente giocatore di scacchi umano che era nascosto dentro il “turco”.
Come afferma Eugenio Mazzarella «definire la computazione automatizzata intelligenza artificiale è una truffa linguistica, che Bacone avrebbe ascritto agli idòla fori, a quegli errori dovuti al linguaggio e alla sua fallacia che non corrispondono a nulla di reale e ne corrompono o impediscono una corretta conoscenza»
(Contro Metaverso. Salvare la presenza, Mimesis 2022, p. 100).
Marco Caruso
Gentile professore, ho letto Cyborgsofia, un libro denso, chiaro e che ha una sua coerenza sia interna, sia con ciò che ho imparato durante i suoi corsi, successivi alla pubblicazione. Vorrei condividere qui con lei alcune mie riflessioni emerse dalla lettura.
Riguardo al corpo, alla mente e alla memoria, a pag. 22 riporta la sintetica ed efficace frase di Nietzsche: «per ogni agire ci vuole oblio». Continua subito dopo il filosofo tedesco: «come per la vita di ogni essere organico ci vuole non soltanto luce, ma anche oscurità» (Nietzsche F. W., Sull’utilità e il danno della storia per la vita, trad. it. Giametta S., Adelphi, Milano 2012, p. 8). Aggiungerei che ci vuole non soltanto udito, ma anche sordità. Esperimento mentale: si immagini di potere udire esattamente ogni singolo rumore del proprio corpo (alla stregua di Funes, capace di ricordare tutto, ma spostandoci nell’ambito percettivo-uditivo). Udire il sangue che scorre nelle vene, le cartilagini e le ossa che sfregano tra loro, l’aria che entra ed esce dai polmoni. Cosa succederebbe? Che sensazione proveremmo? Fortuna vuole che possiamo benissimo saperlo. Tempo fa seppi dell’esistenza della camera anecoica, all’interno della quale l’unica fonte di rumore è quella del proprio corpo. Chi ci entra sente, letteralmente a livello uditivo, proprio il sangue che scorre nelle vene, le cartilagini e le ossa che sfregano tra loro, l’aria che entra ed esce dai polmoni. Finora mediamente per un essere umano è stato impossibile stare lì dentro per più di 15 minuti. Il record è stato raggiunto da uno scrittore, 45 minuti. Dopodiché, nausea, allucinazioni, attacchi di panico. Per ogni agire, ci vuole sordità, assieme a oblio e oscurità. Sono carenze essenziali per la nostra sopravvivenza (a pag. 32 lei scrive che «l’umanità […] è fatta di carenza») prese in carico dall’Abitudine, che per Beckett è «la zavorra che incatena il cane al suo vomito» (Beckett S., Proust, a cura di Pagliano P., Milano, SE 2004, p. 18). Il cane che si assuefà al suo vomito, ne dimentica sensorialmente la sua presenza a livello olfattivo per sopravvivere. Se si vuole un indizio sul fatto che la memoria stia nel corpo, anzi, che essa stessa sia corpomente, si veda come anche l’oblio sia prerogativa del corpo, sotto forma di assuefazione.
Riguardo all’Intelligenza Artificiale, la lettura di Cyborgsofia mi ha portato a riflettere sulla definizione di umano dalla quale poter inferire la progettazione-creazione di una macchina pensante. Il riferimento alla partita a scacchi tra Kasparov e Deep Blue (e oggi i motori scacchistici sono molto più potenti di allora) è significativo rispetto al fatto che l’uomo non abbia alcuna possibilità di eguagliare una macchina sotto il profilo dell’obbedienza alle istruzioni che vengono fornite, almeno in linea di principio. Eppure a me pare che sia l’umano, da questo punto di vista, a voler diventare una macchina. Ogni giorno ci viene detto cosa fare, quando, come. Spesso non ci viene detto il perché, e spesso neppure lo chiediamo. L’umano, quello giudicabile come “brava persona”, obbedisce. In questo senso l’ibridazione pare poter essere sia attiva che passiva. L’umano può servirsi sì attivamente della macchina per incrementare le proprie capacità, ma può anche essere oggetto, e non soggetto, di ibridazione. Gengis Khan creò una struttura di comunicazione interna, attraverso l’utilizzo di messaggeri e bandiere, che è passata alla storia. Ecco: il messaggero era una protesi di Khan. Oggi risulterebbe essere perfettamente sostituibile con un messaggio Whatsapp. Contrapposta a questa passività, vi è una natura dell’umano strutturalmente non sostituibile dalla macchina, legata ad una disobbedienza spontanea (non dettata da un’istruzione del tipo “Arrivato a questo punto, disobbedisci”, altrimenti non vale), alla capacità di decidere autonomamente. Come lei ben evidenzia, la decisione dell’umano non è mero calcolo, ma vi sono emozioni, sentimenti, vissuti, consapevolezza, corpo. Sulla base di tutti i calcoli possibili rispetto alle conseguenze, prescindendo quindi dal suo vissuto e dal suo stato d’animo, la Gertrude manzoniana avrebbe fatto bene ad obbedire al padre. C’è solo un piccolo particolare: ha pagato con l’infelicità. L’umano è felice quando riesce ad essere un umano autentico, anche ibridato ma attivamente, lontano dall’essere una macchina obbediente. Ma allora, forse, lungi dall’essere una situazione di partenza, divenire umano è una conquista, il frutto di una lotta («giustamente si potrebbe pensare che il possesso di essa [della filosofia] non è umano, perché in molti sensi la natura degli uomini è serva». Aristotele, Metafisica, Libro I, 982b 25-30). È la filosofia che fa dell’umano un umano.
agbiuso
Caro Marco, grazie davvero per un commento così ampio al libro, una vera e propria recensione.
Le sue osservazioni sono del tutto corrette, molto interessanti e capaci di ampliare e approfondire i temi che ho cercato di sviluppare in quel testo.
Filippo Scuderi
Caro Professore Biuso,
Ho appena finito di leggere anche Cyborgsofia il libro di cui Lei mi ha fatto dono.
Ho rivisto in questa lettura le sue lezioni, leggendolo ho avuto l’impressione come se fosse letto da Lei dentro la mia mente, forse dato dal fatto che conoscendo l’autore in veste di insegnante mi ha portato a questo.
Con piacere ho letto di scacchi e di Turnig. La vita di Alan Turing mi ha affascinato e se oggi c’è il computer penso sia in gran parte merito suo (per non parlare del contributo che ha dato durante la seconda guerra mondiale, l’Inghilterra dopo tanti anni ha riabilitato questo grande uomo). In ogni caso penso che tutta l’I.A. sia un prolungamento dell’intelletto umano e senza di esso ci saremmo fermati a una semplice calcolatrice matematica, se gli algoritmi sono sempre più avanzati e perché l’uomo li ha migliorati, in una partita a scacchi con il computer l’uomo vince se il programma non ha tutte le partite giocate da campioni e inseriti dentro, infatti ci sono dei livelli per consentire all’uomo di giocare e anche vincere a seconda della difficoltà che si è scelti prima di iniziare la partita.
Un’auto ha la sua I.A. ma se l’uomo non entra nell’abitacolo rimarrebbe ferma senza nessuna utilità. I.A. la vedo così come un prolungamento dell’intelligenza umana. Ma per me è l’uomo a muovere i fili, il cellulare di ultima generazione G5 lo è per via di un processo di perfezionamento che la nostra specie ha deciso di fare, il progresso. Ho incontrato durante la lettura Mazzarella, fortunati i suoi allievi come sono stato fortunato io ad essere un suo allievo.
Certo devo dire che una frase come: “ieri sera ho visto un film con De Niro”, detta da Al Pacino potrebbe significare che insieme sul divano hanno visto un film, viceversa detta da un comune mortale si penserebbe che avrà visto Taxi Drive di De Niro, ma un computer sarebbe in grado di percepirne la differenza?
Grazie e a presto
Un caloroso saluto
Filippo
agbiuso
Caro Filippo, la ringrazio per questa lettura e per le riflessioni che ha voluto condividere a partire dal libro.
Sono contento che nel volume abbia trovato anche dei riferimenti alla sua passione scacchistica.
Aver rivisto nel testo “le mie lezioni” è un complimento davvero grande; la ringrazio anche per questo.
Selenia
Sempre attuale questo libro. Ricordo vividamente quanto stupore mi suscitò la sua prima lettura. Dentro vi trovai pensieri nuovi, semplici ma nient’affatto banali, diversi da quelli che avevo imparato ad accettare nei miei precedenti anni di studio: perché contrapporre la natura alla cultura? Perché il corpo e la mente dovrebbero essere due cose distinte e separate? L’intelligenza é solo la logica? Il calcolo? Può darsi coscienza nello spazio di un bit?
Perché le macchine non hanno una coscienza? Erano – e sono – domande emozionanti!
In effetti mi accorsi di aver vissuto tutta una parte della mia vita a separare le cose, anziché provare a trovarvi una soluzione di continuità.
Questo libro apparentemente asciutto, sintetico nella forma e spesso nei contenuti é ed è stato la fonte di tanta ispirazione, di tanta passione e il perno attorno al quale si è aggrappato il mio pensiero negli ultimi anni.
La mia porta d’accesso a quell’Universo di senso che è la Filosofia, senza la quale di veramente sensato in questa vita rimane ben poco.
Selenia
agbiuso
Grazie davvero, cara Selenia, per delle parole così esatte e appassionate.
La filosofia del computer è sempre e totalmente filosofia. Le sue riflessioni ne danno una testimonianza vivida, dall’interno di una mente giovane che apprende, che vuole apprendere.
Pasquale
Letto con muchisimo gusto. Grazie Alberto. Psq.