Magnifica Humanitas: Papa Leone XIV contro la Silicon Valley

Con l'enciclica Magnifica Humanitas, papa Leone XIV affronta l'intelligenza artificiale e si oppone al tecnocapitalismo di Thiel, Karp e Andreessen. Santoro segue il filo che da Agostino e Nietzsche arriva alla cultura della potenza della Silicon Valley.

Come papa Francesco era irruento, così papa Leone è compassato: il nome da belva contrasta con la rabbia repressa, anche di fronte alle provocazioni di Donald Trump.

Agostino, la non-sostanzialità del male e le due città

È la scuola di Agostino, che, sforzandosi di superare il suo originario manicheismo, nelle Confessioni arrivò a conclusioni simili a quelle di Buddha in merito alla non-sostanzialità del male: il male di cui cercavo l’origine non è una sostanza, perché, se fosse una sostanza, sarebbe un bene. E invero o sarebbe una sostanza incorruttibile e perciò senz’altro un bene grande, o una sostanza corruttibile e perciò un bene, perché, altrimenti, non potrebbe andar soggetto a corruzione. Perciò vidi chiaramente come Tu facesti buone tutte le cose.¹ La scissione tra bene e male viene ricomposta nella scissione tra la città terrena o città del diavolo e la città celeste o città di Dio. C’è dunque un mondo condiviso inferiore, schiavo delle passioni, e un mondo superiore, che è il regno dell’Amore, in cui si fa buon uso delle cose del creato, in armonia con la natura.

Per Leone anche l’intelligenza artificiale è una cosa, un’opportunità che è stata data all’uomo, un potenziale immenso che richiede responsabilità e discernimento, ma che ha in sé un limite che apre alla schiavitù: quello degli algoritmi, che premiano emozioni rapide e penalizzano espressioni umane più bisognose di tempo come lo sforzo di comprensione e riflessione.

Da Rerum Novarum a Magnifica Humanitas

La scelta del suo nome, Leone, segna la continuità con un altro papa, Leone XIII, che si era confrontato nel 1891, nell’enciclica Rerum Novarum, con la questione operaia e la questione sociale nel contesto della prima grande rivoluzione industriale.² Anche Leone XIV si confronta, nel 2026, con un’altra rivoluzione, quella industriale e tecnologica, simboleggiata dall’intelligenza artificiale (IA): nell’enciclica Magnifica Humanitas, Leone affronta il tema dell’IA, partendo da un principio: la tecnologia, così come l’industria dei tempi di Leone XIII, non è una forza antagonista rispetto alla persona, non è di per sé un male, ma non è neutrale, perché riflette le intenzioni di chi la progetta, finanzia, regola e utilizza.

Leone si pone così in netta contrapposizione alle forze tecno-industriali, rappresentate dalla politica di Trump e dall’ideologia di Peter Thiel, che ha postulato una Repubblica Tecnologica.

Palantir, Tolkien e la mezza-cultura di Thiel

L’attacco di Leone inizia dal nome dell’azienda di Thiel, la Palantir Technologies, che deriva il suo nome da un personaggio della saga Il Signore degli Anelli. Leone ha rivendicato il cattolicesimo dell’autore della saga, Tolkien, il cui pensiero è diametralmente opposto a quello di Thiel.³

Ma la mezza-cultura di Thiel non si ferma a Tolkien, ma va avanti fino a Nietzsche, nella sua rilettura de L’Anticristo, che per lui è ciò che frena lo sviluppo dell’IA, la lentezza della democrazia e il socialismo di mercato della Cina. Nietzsche aveva in antipatia il cristianesimo fin dai tempi dello Zarathustra, quando annunciò la morte di Dio e andò avanti assimilando, come scrive T. W. Adorno (tra l’altro, maestro degli adepti della Silicon Valley), il cristianesimo a negazione istituzionalizzata della volontà di vivere, cioè a tipica morale degli schiavi. La morale degli schiavi è per Nietzsche il tipo di morale che sgorga da un sentimento di debolezza e di risentimento ed è improntata ai valori anti-vitali dell’umiltà, del disinteresse e della pietà; gli schiavi odierebbero qualcuno o qualcosa, che li opprime e che li ritiene responsabili delle loro sofferenze: è l’odio verso i forti, verso ciò che essi non sono e che segretamente desidererebbero essere. Nietzsche scrive nell’Anticristo: Il concetto cristiano di Dio … è il grado di infimo livello.

La tradizione technocapital-utopian californiana e il Techno-Optimist Manifesto

Sin dagli anni ‘60, la Silicon Valley ha coltivato narrazioni utopiche sulla tecnologia: dal nuovo comunalismo di Stewart Brand al ciber-libertarismo di Kevin Kelly e John Perry Barlow. L’ultimo sviluppo di questa tradizione technocapital-utopian californiana è il Techno-Optimist Manifesto di Marc Andreessen, che non solo fa un’apologia della tecnologia, ma rivendica il potere politico per la classe dei tecnocapitalisti, che ambiscono a essere riconosciuti come pensatori e legislatori del futuro.⁴ Il manifesto sostiene che

la tecnologia è la sola perpetua fonte di crescita perché il progresso tecnologico genera produttività, crescita economica e migliori standard di vita;
il mercato libero come techno-capital machine, non finisce mai, ma si avvolge continuamente verso l’alto;
l’IA è una sorta di alchimia moderna, panacea per i problemi della società; qualsiasi rallentamento dell’IA costerà vite;
l’IA e l’energia daranno al mondo un’abbondanza materiale illimitata;
l’ipotesi di un’umanità di 50 miliardi di persone, colonizzatrice di altri pianeti, animata da una pulsione esplicitamente natalista;
il nemico è la sostenibilità, la prevenzione delle frodi e la tutela degli utenti, la base etica nella tecnica, la responsabilità sociale e la torre d’avorio, la visione del mondo dell’esperto qualificato e sapientone, indulgere in teorie astratte, credenze di lusso, ingegneria sociale.

Stuart Russell e il problema di Re Mida

Stuart Russell, professore di informatica a Berkeley e fondatore del Center for Human-Compatible Artificial Intelligence, ha smontato l’argomento centrale del manifesto in una testimonianza al Senato degli Stati Uniti del luglio 2023: Si dice spesso che la regolamentazione freni l’innovazione, ma non esiste alcun compromesso tra sicurezza e innovazione. Un sistema di intelligenza artificiale che arreca danno agli esseri umani non è semplicemente un buon sistema di intelligenza artificiale.⁵ Russell ha individuato il problema-chiave dell’IA contemporanea nel problema di Re Mida: i sistemi perseguono obiettivi mal specificati, gli algoritmi dei social media sono stati programmati per massimizzare i clic e hanno imparato a farlo manipolando gli utenti e polarizzando le società; e conclude: Come possiamo mantenere per sempre il potere su entità che, alla fine, diventeranno più potenti di noi?

Alex Karp e la cultura della potenza

Un altro ideologo del tecno-progresso è Alex Karp, CEO di Palantir, figlio di padre afroamericano e di madre ebrea: Karp centra la sua analisi sul potere americano, sui miliardari che non dovrebbero semplicemente rimanere nel loro ambito, quello di arricchirsi, sull’élite che dovrebbe farsi guidare da un non meglio precisato credo religioso, sulla distinzione fra culture portatrici di progressi vitali e sottoculture mediocri, sul rifiuto del pluralismo vuoto che, nell’essere inclusivo, indebolisce l’America, e più in generale, l’Occidente. Karp aggiunge: siamo noi, noi produttori dell’intelligenza generativa che già rendiamo a eserciti e polizie del mondo, statunitensi in primis, il servizio di gestione computazionale di guerra e sicurezza, siamo noi oligarchi che non miriamo solo al profitto ma a rifondare la convivenza su basi neo-nazionaliste e competitive, siamo noi i titolari del diritto-dovere di metterci alla guida del processo socio-tecnologico in atto. E lo facciamo perché non bisogna dare più per scontato il «secolo di pace» alle nostre spalle (ma pace per chi? non per serbi, afghani, irakeni, libici, siriani, ucraini, palestinesi ecc ecc), tanto è vero che «disarmo della Germania» e «pacifismo giapponese», se mantenuti, minacciano di «spostare gli equilibri». Soprattutto «in Asia».

Dietro la retorica dell’hard power e del debito morale si cela la realtà di un investimento privato da 670 miliardi di dollari che non tollera né frizioni democratiche né limiti etici, etichettando ogni tentativo di regolamentazione come un atto di sabotaggio contro il progresso. Soprattutto perché la velocità degli investimenti ora è cruciale, altrimenti il castello di carte speculativo crolla.

Per Leone tutto questo rappresenta la cultura della potenza, legata alla competizione senza limiti degli Stati per il primato, e la disumanizzazione.

Strano che a dirlo e a resistere sia, quasi solo, un papa!

Agostino d’Ippona, Confessioni, libro VII. Cfr. il testo in Augustine, Confessions, Book VII. ↩
Leone XIII, Rerum Novarum, 15 maggio 1891. ↩
Sull’origine del nome Palantir dai palantíri di Tolkien cfr. The hidden logic of Peter Thiel’s Lord of the Rings-inspired company names, Quartz. ↩
Marc Andreessen, The Techno-Optimist Manifesto, a16z, 16 ottobre 2023. ↩
Stuart Russell, testimonianza alla sottocommissione del Senato degli Stati Uniti sull’Oversight of A.I., 25 luglio 2023. Cfr. il resoconto del Center for Human-Compatible AI. ↩

Connesso a:

Santoro mostra come l’IA resti uno specchio delle intenzioni umane e perché l’etica vada cercata in chi la progetta, lo stesso nodo che Leone XIV pone con la Magnifica Humanitas.

La separazione tra potere, morale e sacro trova oggi negli algoritmi la sua forma compiuta, lo stesso terreno su cui Thiel, Karp e Andreessen rivendicano una potenza senza limiti etici.

Domande?

Che cos’è l’enciclica Magnifica Humanitas di papa Leone XIV?

Magnifica Humanitas è l’enciclica con cui papa Leone XIV affronta il tema dell’intelligenza artificiale. Il suo principio di fondo è che la tecnologia non è una forza antagonista alla persona né di per sé un male, ma non è neutrale: riflette le intenzioni di chi la progetta, finanzia, regola e utilizza.

Perché papa Leone XIV si oppone alla Silicon Valley?

Secondo Santoro, Leone XIV contrappone la visione cristiana della persona all’ideologia tecnocapitalista di figure come Peter Thiel, Alex Karp e Marc Andreessen. In quella ideologia il papa legge una cultura della potenza e una spinta alla disumanizzazione, che pongono il primato tecnologico ed economico al di sopra di ogni limite etico.

Che cos’è il problema di Re Mida nell’intelligenza artificiale?

È l’idea, formulata da Stuart Russell, che i sistemi di IA perseguano obiettivi mal specificati: come gli algoritmi dei social media addestrati a massimizzare i clic, che hanno imparato a farlo manipolando gli utenti e polarizzando le società. Da qui la domanda su come mantenere il controllo su entità destinate a diventare più potenti di noi.