Tecnica, potere e coscienza nell’era degli algoritmi.
«La debole speranza di disarmare l’Intelligenza artificiale»
L’appello di Leone XIV a difendere l’uomo nell’epoca dell’Intelligenza artificiale.
di Marcello Veneziani
Partendo dalla prima enciclica di Papa Leone XIV, Marcello Veneziani riflette sul rapporto tra progresso tecnologico e responsabilità umana. L’appello a “disarmare” l’Intelligenza artificiale appare insieme necessario e quasi impotente, poiché nessuna autorità religiosa o morale possiede oggi il potere di arrestare la corsa della tecnica. Eppure proprio questa voce, priva di strumenti coercitivi ma ricca di autorità spirituale, richiama una questione decisiva: chi custodirà l’uomo quando le macchine saranno sempre più capaci di sostituirne funzioni, decisioni e giudizi? Un’analisi che intreccia filosofia, fede e destino della civiltà contemporanea. (N.R.)
Doverosa e prevedibile la prima enciclica di Papa Leone XIV, necessaria e vana. Ma sacrosanta. Propone di disarmare l’Intelligenza artificiale ma la Chiesa a sua volta è disarmata, non ha il potere di frenare e guidare la tecnica, esorta, predica e non può fare altro. Eppure se non lo fa la Chiesa, il Papa, quale altra autorità morale e spirituale è in grado di esprimere questa onesta preoccupazione, di salvaguardare l’uomo nel nome della sua ispirazione divina? Parla all’umanità intera e nel nome di quei due miliardi di uomini che in vario modo vivono nella cristianità. Non ce ne sono altre.
Ho letto l’intera enciclica, non mi sono accontentato dei sunti, dei passi e dei titoli e non l’ho fatto perché pignolo e precisino ma perché reputavo che il tema, la fonte, le questioni che solleva meritassero l’attenzione. Così è stato, anche nei passi in cui era facile precedere il testo. Ora vi propongo una sintesi commentata.
Per cominciare, l’opposizione da cui si parte Magnifica Humanitas è tra Babele, con la sua torre della potenza e della superbia e la Città di Dio, l’agostiniana civitas dei, l’ideale cristiano. Ogni epoca, dice il Papa, rischia il disumano; vero, ma questa è la prima epoca in cui abbiamo i mezzi, senza averne la coscienza, per sostituire l’umano, il divino e la natura, con la tecnica, l’androide e l’artificiale. Siamo vicini al punto di non ritorno, rischiamo di atrofizzare le nostre elementari facoltà umane per capirlo. Non più solo disumano ma siamo incamminati oltre l’umano.
Leone XIV richiama l’intera tradizione della Chiesa, a partire da Agostino e Tommaso. E nel nostro tempo parte dalla Rerum Novarum del suo predecessore Leone XIII, che affrontò le novità del suo tempo e fondò la dottrina sociale della Chiesa. Ma poi avvolge nel suo sguardo tutta la storia che ne è seguita, i suoi papi, le loro encicliche, il concilio. Leone XIV è il papa della continuità con Ratzinger, con Francesco e con la Chiesa intera.
Il criterio a cui si ispira è il “sano realismo”: partire dalla realtà, considerare i nostri limiti, le nostre fragilità. Lo scopo è il bene dell’umanità ispirato da Dio, e dunque “costruire un mondo in cui tutti possono fiorire”. Bellissima espressione, magnifica speranza, ma se siamo realisti assai ardua ad attuarsi. Il sottinteso è la destinazione universale dei beni, rispetto a cui sono subordinati tutti i beni individuali, inclusa la proprietà privata. Ciò vuol dire, spiega, che anche i brevetti, le piattaforme, la tecnologia e gli algoritmi non sono privilegio di pochi, ma devono essere per tutti. Ossia “sviluppo integrale” per tutto l’uomo e per ogni uomo. Anche qui, giusto ma difficile.
Il tema che ne deriva è la giustizia sociale, la solidarietà e la sussidiarietà, insomma, il bene comune, nel pieno della tradizione cristiana. Ma Leone XIV non si rivolge solo ai cristiani ma a tutti i “compagni di cammino” cioè coloro che “cercano sinceramente la verità, la bontà e la bellezza”.
L’Intelligenza Artificiale non sostituisce l’intelligenza umana, non può farlo, nota; anzi mi spingerei a dire che non dovremmo chiamarla intelligenza ma cervellone artificiale, perché come nota giustamente l’enciclica, imita solo alcune funzioni dell’intelligenza, non condivide gli affetti, le ispirazioni, la creatività, l’amore e la sensibilità dell’intelligenza umana. Corre troppo veloce e la usiamo senza conoscerla, dice il Papa, è un aiuto prezioso ma va guidata e vanno responsabilizzati tutti i passaggi; il Papa americano usa l’espressione “accountability” per dire che deve rendere conto dei suoi esiti e processi. Sarebbe pericoloso se pochi decidessero a quale etica o morale deve ubbidire l’IA, e aggiunge: “Serve una politica più presente”. Giusto, la politica è piccola, distratta, tardiva, presa dalla quotidianità e dalla propria autoaffermazione.
E qui il Papa usa l’espressione disarmare l’IA, cioè “rompere l’equivalenza tra potenza tecnica e diritto di governare”; sottrarla ai monopoli, agli usi bellici e distruttivi e alle oligarchie, farla diventare la casa comune. Bel progetto ma ogni sapere, e ogni scoperta, è sempre stata frutto dell’opera di pochi ed è sempre stata in fondo veicolata dai pochi; non esiste scienza o tecnologia democratica; l’effetto può riguardare tutti ma la nascita, lo sviluppo e la direzione è sempre ad opera di pochi. Il problema, insolvibile, è che i pochi siano vere aristocrazie e non prepotenti oligarchie, e che siano governate da pochi ma nell’interesse di molti, e non nell’interesse di pochi. Qui andrebbe esplicitata una critica all’intreccio tra capitalismo e tecnica, sotto l’egida di un liberismo pernicioso. Ma Prevost è di Chicago, non viene da Cracovia o dal Sud America…
Bisogna combattere la deriva antiumana della tecnica, non assolutizzare l’intelligenza, ci sono affetti, volontà, legami, dedizioni e bisogna opporre alla potenza la cura; cioè curarsi degli altri e di sé. Pericoloso secondo il Papa è lo sfondo ideologico e oltreumano del transumano e del postumano, l’ibridazione dell’uomo con la macchina, in una specie di centauro tecno-umanoide. Ma in seguito riconosce che è umana l’aspirazione da cui nascono il transumano e il postumano, di una vita più piena, meno fragile, meno carica di sofferenze. L’umano, dice l’Enciclica, non è materiale da perfezionare; e il più che umano non è prerogativa solo della tecnica; anche la fede cristiana si sporge oltre l’umano, ispirata dallo Spirito Santo (che la Tecnica sostituisce con l’algoritmo).
Il progetto dell’Enciclica è un nuovo umanesimo cristiano, grato alla scienza e alla tecnica ma teso a custodire la verità, il diritto al lavoro, la libertà, messi a repentaglio dalla tecnologia e dall’IA. Aggiungerei l’intelligenza critica.
Il Papa propone “un’alleanza educativa” per l’era digitale, un’ecologia della comunicazione. La famiglia, dice, è un bene sociale fragile, da tutelare.
E ribadisce la sua critica alla finanza senza scrupoli, al culto del profitto e della performance a ogni costo. Dobbiamo difenderci dalla dipendenza e dalla mercificazione, dai rischi della manipolazione e del controllo, dalle nuove schiavitù e dai nuovi colonialismi indotti dalla potenza tecnica. Opporre alla cultura della potenza la civiltà dell’amore. Sacrosanto, ma l’amore è inerme rispetto alla potenza che usa la forza… Leone XIV respinge il ricorso alla guerra e la sua “normalizzazione” dei nostri giorni e qui risuonano i suoi vani, reiterati appelli, profeta inascoltato come i suoi predecessori. Sostiene il multilateralismo e la via dei negoziati e critica il falso realismo che è paravento della forza, dice che dobbiamo disarmare anche le parole, cercare la pace nella giustizia, “assumere lo sguardo delle vittime”. Cita curiosamente Tolkien in tema di salvezza della terra, esorta a pregare, riconoscendo nel volto di Cristo, “una magnifica umanità” e affidandosi infine a Maria e al Magnificat, impegnandoci ad essere “tessitori di speranza”.
Che dire? Una lezione di amore per l’umanità e per la dignità umana, di difesa della civiltà e della giustizia sociale, di vera ispirazione cristiana. Il suo appello alla speranza cade in una società che vive ormai da tempo una disperazione piena di comfort. La speranza è troppo rispetto alla realtà del mondo, ma è anche troppo poco per salvarlo. Forse dovremmo partire dalla disperazione, ovvero considerare la disperazione non come approdo ma come punto di partenza e poi metterci tutta le buone volontà. Dopo tanta sfiducia fino alle cose penultime, nutrire fiducia nelle cose ultime. Alla fine Qualcuno ci salverà.
Nota di lettura della Redazione
Nel commentare l’enciclica Magnifica Humanitas, Marcello Veneziani sottolinea come la Chiesa sia oggi «disarmata» di fronte alla potenza della tecnica e possa opporre all’Intelligenza artificiale soltanto la forza della parola, della coscienza e dell’autorità morale. È una riflessione che richiama inevitabilmente il simbolo di Babele, evocato da Leone XIV come metafora della superbia umana che pretende di elevarsi oltre i propri limiti.
Resta tuttavia una questione che merita di essere considerata. L’enciclica si richiama ampiamente alla tradizione cristiana, da Agostino a Tommaso d’Aquino, e alla dottrina sociale inaugurata da Leone XIII, ma pone l’accento soprattutto sulla dimensione evangelica della cura, della fraternità e della pace. Sullo sfondo rimane invece la figura del Dio dell’Antico Testamento, spesso presentato come guida, giudice e combattente, il «Signore degli eserciti» che interviene nella storia per difendere il suo popolo e ristabilire un ordine minacciato.
Forse la tensione tra queste due immagini — il Dio della misericordia e il Dio della potenza — attraversa ancora oggi il rapporto tra l’uomo e la tecnica. Da un lato vi è l’invito a custodire la dignità umana attraverso la persuasione morale; dall’altro permane la domanda se la sola esortazione sia sufficiente di fronte a strumenti capaci di ridefinire il potere, l’economia e perfino la natura stessa dell’uomo. È una domanda che l’enciclica lascia aperta e che probabilmente accompagnerà l’intero dibattito sul futuro dell’Intelligenza artificiale.
La critica della superbia tecnologica evocata da Leone XIV richiama il racconto di Babele e il tema biblico del limite umano. Resta però aperta una domanda: la tradizione religiosa che oggi mette in guardia dall’eccesso di potere della tecnica è la stessa che, nel corso della storia, ha spesso esercitato un forte controllo sull’accesso al sapere e sull’interpretazione delle Scritture. La questione diventa allora più ampia dell’Intelligenza artificiale: chi deve custodire la conoscenza? E soprattutto, chi decide quali limiti l’uomo non dovrebbe oltrepassare?
