“La prima scelta non è tra un Sì o un No alla tecnologia, ma tra edificare Babele o ricostruire Gerusalemme”.

Può darsi che sia stato spiazzante, per la maggior parte dei lettori, aprire la tanto attesa “lettera sull’intelligenza artificiale del papa matematico” e ritrovarsi invece, fin dalle prime righe, un’opera che parla di come costruire le società umane, contrapponendo due visioni opposte del potere.

Ma Leone era stato chiarissimo, fin dal titolo e dal sottotitolo.
Magnifica Humanitas doveva essere l’enciclica “sulla custodia della persona umana nel tempo dell’intelligenza artificiale”, non sull’intelligenza artificiale in sé.

Così, sebbene il riferimento all’IA abbia attirato tutta l’attenzione, suscitato tutta la curiosità, catturato i titoli dei giornali e infiammato il dibattito per mesi, il ruolo che svolge nel testo di Leone è in realtà molto più circoscritto.

Potremmo paragonarla alla punta di un iceberg: se da un lato è l’espressione più visibile del potenziale creativo dell’umanità, dall’altro è l’arma più allettante per quella parte di umanità che ha la tentazione di “concentrare potere e ricchezza nelle mani di pochi”, di “ridurre tutto a oggetto di dominio”, di rendere i conflitti “più rapidi e impersonali” con “le vittime ridotte a dati”, e soprattutto di abbracciare come “giusta e normale una visione antiumana, secondo cui la pienezza della vita consisterebbe nell’avere di più, nel ridurre la fragilità, eliminare l’imprevisto, controllare ogni cosa”.

Una tentazione che, anche se qui compare in salsa cibernetica, è la stessa che accompagna da sempre la “città terrena” – termine con il quale sant’Agostino indicava l’insieme di quelle organizzazioni umane che nel corso della storia hanno preteso di fare a meno di Dio o, peggio ancora, di sostituirsi a Dio.

Una tentazione antica, appunto, quanto la torre di Babele, che già millenni fa simboleggiava “un potere che pretende di dominare il cielo” ma finisce per crollare.

Nuove macchine, vecchi problemi

La prima grande intuizione del pontefice agostiniano, perciò, è proprio smorzare ogni pretesa di eccezionalità assoluta delle macchine a intelligenza artificiale rispetto alle innovazioni tecniche che le hanno precedute.

Ogni innovazione tecnica “può essere, in un certo qual modo, una forma umana di partecipazione all’atto divino della creazione” e, per dirla con Benedetto XVI, “è radicata nella nostra storia fin dal principio, in quanto fatto profondamente umano, legato all’autonomia e alla libertà dell’uomo”.

Certo, l’evoluzione dell’IA è talmente rapida da rendere difficile ogni previsione. E sì, ha delle particolarità che meritano attenzione, specialmente quando se ne fa un uso personale e quotidiano: fra tutte “la facilità di ottenere il risultato, l’impressione di oggettività e la simulazione della comunicazione umana”.

Ma è, e rimane, uno strumento. Non un essere alieno sbarcato dal cielo. Non un oggetto magico. Non “un passaggio di soglia in cui l’umanità supererà sé stessa entrando in un nuovo stadio evolutivo”, come vaneggiano i nuovi eretici post-umanisti e trans-umanisti dentro e fuori dalla Silicon Valley.

Se in questo strumento c’è una novità, piuttosto, è che rischia di diventare strumento di disumanizzazione non tanto per come viene usato, ma per come viene progettato.

Sulle orme di Bergoglio

Già solo per questa precisazione dovremmo ringraziare l’inquilino del Palazzo Apostolico. In ogni sua pagina si respira un senso di continuità, di fluidità, di coerenza, di riconducibilità dei cambiamenti attuali entro schemi che – pur aggiornati – sono gli stessi che esistono fin dall’alba dell’età industriale e, in parte, fin dalla notte dei tempi.

Continuità e coerenza si respirano soprattutto nel capitolo che ripercorre la storia della dottrina sociale della Chiesa da Leone XIII in avanti.
Questa viene narrata come la storia di un’intuizione fondamentale (la tecnologia è benvenuta purché non generi sfruttamento e pericolose eresie materialiste) e poi del suo graduale sviluppo fino a papa Francesco, che ha interpretato attraverso questa lente la questione ambientale.

Prevost, anzi, non fa alcun mistero di aver immaginato la Magnifica Humanitas come una sorta di seconda puntata della Laudato Si’. “Come l’ambiente naturale”, sostiene, “anche l’ecosistema digitale può essere custodito o sfruttato, condiviso o monopolizzato”.

La civitas terrena 4.0

Ricca è la galleria degli esempi su come lo sfruttamento umano possa essere perpetrato con mezzi digitali. Alcuni sono già di attualità: dai popoli che vivono sotto “sorveglianza invasiva” e “controllo sociale” (allusione neanche troppo velata ai cinesi, che nel testo ricorre più volte) ai bambini e adolescenti “sacrificati all’interesse immediato delle piattaforme”.

Altri esempi, come il “nuovo colonialismo” che tratta i popoli geopoliticamente marginali come miniere di dati da estrarre, fanno alzare di più il sopracciglio: eppure, guardando quello che le Big Tech stanno facendo nel Sudan dilaniato dalla guerra civile, risultano di colpo molto concreti.

Fedele alla lezione di Agostino, il papa americano si spinge infine a sostenere che la “cultura della potenza”, dalla quale oggi dipende la venerazione acritica della tecnologia (se qualcosa è potente o efficace, allora è giusto), renda gli uomini più inclini ad accettare la legge del più forte che sopraffà il più debole sullo scenario internazionale.

“La disponibilità di mezzi e la capacità di dominare”, scrive, “tendono a dettare l’agenda e i criteri della decisione, relegando il bene comune dell’umanità sullo sfondo e riducendo il dramma concreto dei popoli in guerra a variabile secondaria”.
In paesi con gravi tensioni sociali,“non possiamo escludere che qualcuno finisca per considerare il conflitto armato come un modo efficace di distogliere l’attenzione dai problemi interni e come strumento di gestione cinica delle difficoltà”.

Impossibile non cogliere una frecciata a Trump, Netanyahu e Putin, che però non hanno affatto il monopolio nell’abusare di questa “cultura della potenza”.

Impressionanti per la loro lucidità e per il loro coraggio sono infatti le parole di Prevost sui “nuovi attori armati – gruppi jihadisti, milizie private, reti criminali – che segnano la fine del monopolio statale della forza”, intrecciando “motivazioni ideologiche vaghe con interessi economici molto concreti” e così “trasformando la guerra in un vero modo di vivere per intere generazioni di giovani e bambini: l’obiettivo non è più una vittoria definitiva, ma la perpetuazione del conflitto come fonte di potere e rendita”.

Un ritratto perfetto di Hamas, Hezbollah, Isis, Boko Haram, RSF e signori della guerra di ogni risma.

È alla luce di queste premesse che Leone lancia il suo appello a “disarmare l’IA”, nel senso di “rompere questa equivalenza tra potenza tecnica e diritto di governare”.
“Disarmare” per lui “non significa rinunciare alla tecnologia, ma impedirle di dominare l’umano.
Significa sottrarla ai monopoli, renderla discutibile, contestabile, e quindi abitabile”, motivo per cui, “tra i beni che sono universalmente destinati a tutti, dobbiamo annoverare anche le nuove forme di proprietà: brevetti, algoritmi, piattaforme digitali, infrastrutture tecnologiche, dati”.

Sembra di ascoltare un nerd idealista del Free Internet nei primi anni ’90, e invece è la guida della più grande comunità religiosa del pianeta.

La civitas Dei 4.0

Forte di questa consapevolezza, Leone ha firmato un’enciclica che non è né cupa né arrendevole: la parte propositiva è forse la più lunga e la meglio argomentata.  

Accanto alla visione perversa dell’uomo proclamata dalla Babele moderna, infatti, ne sopravvive in silenzio un’altra che, pur non essendo sovrapponibile alla civitas Dei invisibile e santa di cui parlava Agostino, ne richiama alcuni tratti essenziali.

Leone la descrive servendosi di un altro episodio biblico: quello in cui Neemia, coppiere del re di Persia, aiuta gli ebrei rientrati dall’esilio a ricostruire insieme le mura di Gerusalemme.

Qui l’essere umano “non può ritrovarsi pienamente se non attraverso un dono sincero di sé”. Ha una dignità “semplicemente per il fatto di esistere, di essere stato voluto, creato e amato da Dio”. “Non fiorisce malgrado il limite, ma spesso attraverso il limite”, diventa “più che umano” grazie al sacrificio di Cristo e “fa crescere la tecnica senza far regredire il cuore”.

Al contrario della macchina, il cui apprendimento è “un adattamento statistico a dati e riscontri”, l’essere umano “cresce nel tempo attraverso scelte, errori, perdono, fedeltà”.
Mentre per l’algoritmo “l’errore è qualcosa da correggere”, per l’essere umano “può essere l’inizio di un cambiamento profondo”.

La storia “non appare solo come il catalogo delle nostre violenze”, come amano gridare i rivoluzionari ossessionati dal creare l’uomo nuovo o superiore.
Il presente non è “un destino chiuso”, come annunciano i grigi cultisti dei dati, ma è “un campo aperto alla conversione personale e collettiva”.
La politica non è sete di dominio ma corresponsabilità. E “anche quando le macchine eccellono nell’efficienza, il centro della storia rimane un volto umano che chiede di essere guardato”.

Tra i costruttori di questa civiltà alternativa non ci sono soltanto cattolici (Mandela e Martin Luther King vengono citati esplicitamente) mentre svariati cattolici si sono rifiutati di costruirla (donde due ammende sugli abusi sessuali e una, a dire il vero un po’ sconclusionata, sull’abolizione troppo lenta della schiavitù).
Ma la Chiesa ha il dovere di collaborare a costruirla e ha tutte le risorse intellettuali e spirituali per riuscirci.

Se il digitale è un nuovo continente dove inviare missionari, “il cuore umano conserva un bisogno irrinunciabile di prossimità” e di presenza fisica, che la Chiesa può e deve offrire.

“I cristiani vedono le tenebre e le chiamano per nome, ma non restano fermi a contemplarle”. Dove le tenebre, come ormai abbiamo capito, non sono le macchine, ma la confusione tra macchina e uomo che prelude alla sua sottomissione.