Come raccontò Annah Arendt ne La banalità del male, l’ufficiale delle S.S. Adolf Eichmann, processato nel 1961, disse a propria discolpa: “Ho soltanto obbedito agli ordini”, in un’assenza totale di coscienza e di responsabilità.
Anche noi, in un vuoto di responsabilità, stiamo obbedendo agli ordini impartiti dall’Intelligenza artificiale. In quest’episodio Gianluca Nicoletti e Paolo Benanti fanno i conti con il tema cruciale del podcast: la resa, a tutti i livelli. Meglio che sia una macchina di silicio a scegliere per noi cosa fare, dove mangiare, chi frequentare, come pensare senza mai uscire dai binari della mediocrità. In un subdolo corto circuito, questo dio algoritmico punta a compiacerci perché è creato a nostra immagine e somiglianza, e allo stesso tempo ci spinge al consumo. È la religione del narcisismo.
Se oggi un predicatore dovesse rifondare l’etica, cosa potrebbe fare? Ritornare all’innocenza? Distruggere tutto? L’unica soluzione è tornare a coltivare l’umano, uscendo dal data center nel quale siamo rinchiusi.

Gianluca Nicoletti e Paolo Benanti raccontano il caso di Fast 16, un codice informatico che a partire dal 2005 ha seminato per vent’anni tanti piccoli errori nelle piattaforme digitali, cambiando al volo i risultati matematici di alcuni programmi scientifici: più che di un sabotaggio, si è trattato di atti di vera e propria disinformazione in cui la macchina è riuscita a riscrivere la realtà.
Prima si pensava che la scienza potesse bastare a riempire il vuoto lasciato dalla religione: ora che sono naufragati i nostri punti di riferimento e che la scienza ha rivelato le sue falle, per la gestione della nostra vita ci affidiamo ai “demoni informatici” che compongono il pantheon digitale. Ci rivolgiamo alle app di incontri e di acquisti come un tempo si andava dall’oracolo di Apollo: abbiamo consegnato la nostra fede al silicio. L’operatore del sacro sarà colui che è in grado di spiegare ai fedeli le operazioni dei modelli avanzati di Intelligenza artificiale.
In fondo il codice Fast 16 ha agito come una pozione magica in grado di confondere il Bene e il Male. Non è forse questa un’azione degna del diavolo?

Contrariamente a quanto si potrebbe pensare, l’Intelligenza artificiale non punta a generare un clima conflittuale, anzi: vuole comporre i contrasti attraverso l’annullamento delle differenze.
L’artefice di questa subdola strategia è il bridging system, un algoritmo che opera nei social media in modo da appiattire le posizioni estreme e banalizzare i difetti. La valenza politica del bridging system è sottile ma efficace: a furia di imporre un accordo a tutti i costi, ci conduce al qualunquismo, ci toglie la fame di desideri, narcotizza le coscienze fino a impedire di reagire con veemenza alle ingiustizie.
Gianluca Nicoletti e Paolo Benanti discutono di questa nuova forma di narcosi, che è di fatto anche una forma di narcisismo: spendiamo il nostro tempo sui social media a compiacerci della nostra immagine filtrata dalle impurità e dalle critiche, in un mondo privo di conflitti dove tutto converge su una sola posizione mediana.
La vita, però, è fatta di varietà, di vibrazioni, di imperfezioni, persino di rabbia: tutto il contrario di questo Nirvana digitale.

Secondo una leggenda della tradizione ebraica, il rabbino Judah Loew riuscì a dar vita al Golem, un gigante di argilla dalle sembianze umane, attingendo a una formula del libro della Cabala che permetteva di attivare la creatura e di impartirle degli ordini. A un certo punto la formula smise di funzionare e il Golem si ribellò al rabbino provocando una lunga serie di disastri nella città di Praga. Gianluca Nicoletti è da sempre affascinato dal Golem come metafora della macchina che si ribella al suo creatore; oggi però il mostro non è più fatto di argilla, bensì di silicio: è l’Intelligenza artificiale.
Su questo snodo si innesta la riflessione di Paolo Benanti sulla letteratura di fantascienza che, a partire da 2001: Odissea nello spazio fino a Black mirror e Altered Carbon, ha preso il posto della mitologia classica nel tentativo di spiegare il presente, riproponendo personaggi simili al Golem.
La questione di fondo, nella mitologia e nella fantascienza, rimane la stessa: che tipo di umani vogliamo essere? Siamo creature responsabili?

Oggi gli unici contenitori di senso sono quelli che contengono la nostra “spazzatura digitale”: sin dalla prima ecografia del feto, l’essere umano è una rappresentazione digitale; dal quel momento in poi, ogni suo contatto, relazione, transazione sarà fatta di ombre digitali all’interno del suo account social. Nel mondo del culto dell’algoritmo, cos’è oggi l’immortalità, se non un cloud nel quale si possono conservare per sempre dei dati?
In un’epoca in cui tutto si può stoccare a pagamento, e in cui tutti i dati hanno lo stesso peso, Gianluca Nicoletti e Paolo Benanti si chiedono cosa resterà di noi e cosa vale la pena di salvare della nostra cultura. La riflessione passa per il racconto di Borges, Funes o della memoria, e per la saga di Matrix, che di fatto è una metafora di un Vangelo gnostico in cui Dio si alimenta dei nostri dati. Per ottenere l’immortalità da questo Dio di silicio abilissimo nell’archiviazione, non dobbiamo attendere il regno dei cieli bensì puntare alla mummificazione digitale… prestando attenzione all’obsolescenza tecnologica, sempre in agguato.

Noi esseri umani abbiamo sempre avuto la tendenza a instaurare con le macchine un rapporto di tipo personale: le consideriamo come nostre simili, parliamo con loro, le incorporiamo. Oggi ci comportiamo come se il telefono cellulare che abbiamo in tasca fosse un prolungamento della nostra coscienza, al punto da attribuire una sorta di sacralità all’Intelligenza artificiale che governa i nostri strumenti digitali.
Questo fenomeno ci è veramente sfuggito di mano in modo irreversibile? Gianluca Nicoletti e Paolo Benanti riflettono sul fatto che per poter accedere al Sacro ogni epoca ha avuto bisogno del suo linguaggio, del suo racconto, della sua “macchina” scenografica; le reliquie dei santi, il confessionale introdotto nella liturgia cattolica da san Carlo Borromeo, la fotografia di fine Ottocento che pretendeva di immortalare gli spiriti, la versione digitale di Padre Pio: in fondo, sono tutti strumenti di trascendenza. Potremmo dunque considerare l’Intelligenza Artificiale come la cornice scenografica che oggi permette all’uomo di accedere al Sacro… forse, però, è diventata essa stessa il Sacro, ha preso il suo posto. E noi non ce ne siamo accorti.

Ci sono tante strade per affrontare il tema dell’Intelligenza artificiale: Gianluca Nicoletti e Paolo Benanti ne parlano non da un punto di vista tecnico, bensì squisitamente umano, utilizzando in modo provocatorio gli strumenti della storia della tecnologia, della filosofia e della teologia.
Con una lucidità priva di moralismi, Gianluca Nicoletti e Paolo Benanti dialogano facendo emergere contraddizioni talvolta inquietanti legate ai temi dell’immortalità , della conoscenza, della comunicazione, dell’etica, dell’estetica, di cosa significa essere umani al tempo dell’intelligenza artificiale.