L’enciclica del papa sull’IA non parla davvero di IA
Lunedì Papa Leone XIV ha pubblicato la sua prima enciclica. Intitolata “Magnifica Humanitas”, affronta il tema della “tutela della persona umana nell’era dell’intelligenza artificiale”. Ma, sebbene l’IA sia il punto di partenza, il cuore del testo tocca questioni più antiche e pervasive: disuguaglianze, guerre, crisi della democrazia e concentrazione del potere nelle mani di élite che non sembrano interessate a preservare la grandezza dell’umanità nel suo insieme.
Nel documento di circa 200 pagine — presentato dal pontefice insieme a Chris Olah, cofondatore della società di IA Anthropic — Leone sostiene che una tecnologia progettata e governata da pochi non potrà mai, per definizione, servire il bene comune.
“Quando un simile potere si concentra nelle mani di pochi, tende a diventare opaco e a sottrarsi al controllo pubblico, aumentando il rischio di percorsi distorti di sviluppo che generano nuove dipendenze, esclusioni, manipolazioni e disuguaglianze”, scrive.
“Come ogni grande svolta tecnologica, l’IA tende ad amplificare il potere di chi già dispone di risorse economiche, competenze e accesso ai dati”, prosegue l’enciclica, evidenziando il pericolo che le élite usino questo vantaggio per “plasmare l’informazione e i modelli di consumo, influenzare i processi democratici e orientare le dinamiche economiche a proprio favore”.
L’enciclica arriva pochi giorni dopo che il presidente Donald Trump ha rinviato la firma del suo ordine esecutivo sull’IA — provvedimento che avrebbe attribuito al governo un controllo preventivo sui nuovi modelli prima del rilascio — decisione che, secondo indiscrezioni, sarebbe stata presa su impulso del venture capitalist ed ex “AI czar” della Casa Bianca David Sacks.
Papa Leone invoca per l’IA “criteri chiari e una vigilanza efficace”, fondati sulla partecipazione reale delle comunità coinvolte. In termini più concreti, chiede di fermare la corsa agli armamenti dell’IA: la spinta a sviluppare “algoritmi sempre più potenti e dataset sempre più ampi” con cui aziende e Stati puntano a ottenere “supremazia geopolitica o commerciale”.
“Disarmare significa smentire l’assunto secondo cui la potenza tecnica conferisca automaticamente il diritto di governare”, afferma.
Ancora una volta, sono dinamiche che precedono l’IA. Già la Rerum Novarum di Leone XIII, nel 1891, denunciava la concentrazione del potere all’epoca della Rivoluzione Industriale. E non serve andare così indietro: basti pensare all’acquisizione di Twitter da parte di Elon Musk e all’uso della piattaforma per favorire l’elezione di Trump, o alle centinaia di milioni di dollari riversati dagli oligarchi della tecnologia nei super PAC per bloccare regolazioni sull’IA — schemi che hanno chiaramente ispirato il lavoro di Leone XIV.
La conclusione a cui arriva il papa è condivisa da molti: l’odierna potenza, spesso surreale, dell’IA alza radicalmente la posta.
Paolo Carozza, professore alla Notre Dame Law School, membro della Pontificia Accademia delle Scienze Sociali e presidente del Meta Oversight Board, ha dichiarato a TechCrunch che la disinformazione e i deepfake alimentati dall’IA hanno “corroso la nostra capacità di distinguere ciò che è vero da ciò che non lo è, con conseguenze reali per la politica democratica”. La pratica, diffusa nell’industria tecnologica, di “raccogliere e manipolare” i dati delle persone, aggiunge, pone “sfide fondamentali alla libertà cognitiva”.
