Come raccontò Annah Arendt ne La banalità del male, l’ufficiale delle S.S. Adolf Eichmann, processato nel 1961, disse a propria discolpa: “Ho soltanto obbedito agli ordini”, in un’assenza totale di coscienza e di responsabilità.
Anche noi, in un vuoto di responsabilità, stiamo obbedendo agli ordini impartiti dall’Intelligenza artificiale. In quest’episodio Gianluca Nicoletti e Paolo Benanti fanno i conti con il tema cruciale del podcast: la resa, a tutti i livelli. Meglio che sia una macchina di silicio a scegliere per noi cosa fare, dove mangiare, chi frequentare, come pensare senza mai uscire dai binari della mediocrità. In un subdolo corto circuito, questo dio algoritmico punta a compiacerci perché è creato a nostra immagine e somiglianza, e allo stesso tempo ci spinge al consumo. È la religione del narcisismo.
Se oggi un predicatore dovesse rifondare l’etica, cosa potrebbe fare? Ritornare all’innocenza? Distruggere tutto? L’unica soluzione è tornare a coltivare l’umano, uscendo dal data center nel quale siamo rinchiusi.

Gianluca Nicoletti e Paolo Benanti raccontano il caso di Fast 16, un codice informatico che a partire dal 2005 ha seminato per vent’anni tanti piccoli errori nelle piattaforme digitali, cambiando al volo i risultati matematici di alcuni programmi scientifici: più che di un sabotaggio, si è trattato di atti di vera e propria disinformazione in cui la macchina è riuscita a riscrivere la realtà.
Prima si pensava che la scienza potesse bastare a riempire il vuoto lasciato dalla religione: ora che sono naufragati i nostri punti di riferimento e che la scienza ha rivelato le sue falle, per la gestione della nostra vita ci affidiamo ai “demoni informatici” che compongono il pantheon digitale. Ci rivolgiamo alle app di incontri e di acquisti come un tempo si andava dall’oracolo di Apollo: abbiamo consegnato la nostra fede al silicio. L’operatore del sacro sarà colui che è in grado di spiegare ai fedeli le operazioni dei modelli avanzati di Intelligenza artificiale.
In fondo il codice Fast 16 ha agito come una pozione magica in grado di confondere il Bene e il Male. Non è forse questa un’azione degna del diavolo?

Contrariamente a quanto si potrebbe pensare, l’Intelligenza artificiale non punta a generare un clima conflittuale, anzi: vuole comporre i contrasti attraverso l’annullamento delle differenze.
L’artefice di questa subdola strategia è il bridging system, un algoritmo che opera nei social media in modo da appiattire le posizioni estreme e banalizzare i difetti. La valenza politica del bridging system è sottile ma efficace: a furia di imporre un accordo a tutti i costi, ci conduce al qualunquismo, ci toglie la fame di desideri, narcotizza le coscienze fino a impedire di reagire con veemenza alle ingiustizie.
Gianluca Nicoletti e Paolo Benanti discutono di questa nuova forma di narcosi, che è di fatto anche una forma di narcisismo: spendiamo il nostro tempo sui social media a compiacerci della nostra immagine filtrata dalle impurità e dalle critiche, in un mondo privo di conflitti dove tutto converge su una sola posizione mediana.
La vita, però, è fatta di varietà, di vibrazioni, di imperfezioni, persino di rabbia: tutto il contrario di questo Nirvana digitale.