La tecnologia non è neutrale: l'enciclica «Magnifica Humanitas» letta da un giurista

Un’enciclica sull’intelligenza artificiale me l’aspettavo. Chi lavora ogni giorno tra valutazioni del rischio e checklist dell’AI Act impara presto che, prima delle regole tecniche, vengono le domande di fondo (cosa stiamo costruendo, e per chi) e che su quelle domande la Chiesa ha una voce lunga secoli. Così, quando Leone XIV ha dedicato proprio all’intelligenza artificiale la sua enciclica, «Magnifica Humanitas», non l’ho trovata per caso sulla scrivania: la stavo aspettando, e l’ho letta lo stesso giorno.

L’ho letta da giurista, non da credente né da non credente. E ho trovato pagine che chiunque lavori tra tecnologia e diritto dovrebbe conoscere, a prescindere da cosa pensi della fede. Non perché un’enciclica scriva le regole (non è il suo compito), ma perché pone bene la domanda da cui le regole dovrebbero partire.

«Non è neutrale»: la frase che firmerei

Il passaggio che mi ha fermato è al numero 9. La tecnologia, scrive il Papa, può curare, connettere, educare, ma può anche dividere e generare nuove ingiustizie; e soprattutto «non è neutrale, perché assume il volto di chi la pensa, la finanzia, la regola, la usa».

È esattamente la premessa su cui poggia tutto il diritto dell’IA. Un sistema di intelligenza artificiale non cade dal cielo: incorpora i dati con cui è stato addestrato, gli obiettivi di chi lo ha progettato, gli interessi di chi lo mette sul mercato. Per questo l’AI Act non regola “l’algoritmo” in astratto, ma le scelte e le responsabilità delle persone e delle imprese che stanno dietro a quelle scelte. Chi pensa che la tecnologia sia uno strumento neutro, di cui rispondono solo gli utenti finali, ha già perso il filo del problema.

L’enciclica aggiunge un punto che i giuristi conoscono bene ma di cui si parla poco fuori dagli addetti ai lavori: oggi il potere tecnologico non è più nelle mani degli Stati. I principali motori dello sviluppo sono attori privati, spesso transnazionali, con risorse superiori a quelle di molti governi. È il motivo per cui regolare l’IA è così difficile, e così necessario.

Babele e Neemia: due modi di costruire

Per spiegare la posta in gioco, Leone XIV usa due immagini bibliche, e funzionano anche fuori dal loro contesto religioso.

La prima è la torre di Babele: un progetto grandioso costruito per «farsi un nome», fondato sulla pretesa di bastare a se stessi. Babele cerca l’uniformità, appiattisce le differenze, e finisce nella dispersione. La sua versione contemporanea, scrive il Papa, è l’idolatria del profitto che sacrifica i deboli e la tentazione di ridurre l’altro a semplice mezzo.

La seconda è la ricostruzione delle mura di Gerusalemme nel libro di Neemia: una città che rinasce non per l’iniziativa di un singolo, ma attraverso la responsabilità condivisa di tutti, e che ricostruisce i legami prima ancora delle pietre. Due modi opposti di costruire con gli stessi materiali. La differenza non è la tecnologia: è chi partecipa e chi risponde.

Dalla teologia agli strumenti concreti

Qui l’enciclica mi è sembrata più pratica di tante dichiarazioni di principio sull‘“IA etica”. Al numero 14 indica criteri precisi per orientare le scelte: progettazione responsabile, valutazioni d’impatto umano e sociale, inclusione dei più fragili, alfabetizzazione digitale.

Sono parole che hanno già un corrispettivo giuridico. La valutazione d’impatto sulla protezione dei dati (DPIA, art. 35 GDPR) serve proprio a chiedersi, prima di partire, cosa un trattamento fa alle persone. L’AI Act introduce per certi sistemi ad alto rischio una valutazione d’impatto sui diritti fondamentali (art. 27). I principi di protezione dei dati fin dalla progettazione e per impostazione predefinita dicono, in linguaggio tecnico-giuridico, qualcosa di simile a quel «progettazione responsabile».

Non sto dicendo che un’enciclica e un regolamento europeo facciano lo stesso lavoro. Dico che convergono su un’intuizione: la qualità di una tecnologia si misura prima di costruirla, guardando a chi resta dentro e a chi resta fuori. Il diritto lo traduce in obblighi e procedure; l’enciclica gli dà una ragione.

Cosa significa per chi deve decidere oggi

«Magnifica Humanitas» non è una guida operativa e non pretende di esserlo. Però mette al centro la domanda giusta, la stessa che cerco di portare nel mio lavoro: non solo cosa è permesso, ma cosa è giusto, e cosa una scelta tecnologica fa alle persone reali.

Per un’impresa o un professionista che oggi adotta un sistema di IA, la traduzione concreta è meno spirituale di quanto sembri. Significa documentare le scelte, valutarne gli effetti prima che producano danni, includere chi rischia di subirle senza voce in capitolo. È buona compliance, ed è anche, se vogliamo, buona costruzione.

Il Papa chiude invitando a essere «costruttori di comunione, non architetti di Babele». Tolto il linguaggio religioso, resta un criterio che vale anche per chi scrive policy e firma contratti: una tecnologia che include vale più di una che esclude, e il vero progresso, scrive al numero 15, «nasce sempre da un cuore aperto all’altro».

Testi e fonti

Testo integrale: Enciclica «Magnifica Humanitas», Leone XIV (testo ufficiale)

Riferimenti normativi e bibliografia

• Regolamento (UE) 2016/679 (GDPR) (in particolare l’art. 35, valutazione d’impatto sulla protezione dei dati) · scarica PDF
• Regolamento (UE) 2024/1689 (AI Act) (in particolare l’art. 27, valutazione d’impatto sui diritti fondamentali) · scarica PDF
• D.Lgs. 30 giugno 2003, n. 196 (Codice Privacy) (attuazione e integrazione del GDPR in Italia)
• Garante per la protezione dei dati personali, Valutazione d’impatto (DPIA)

Questo articolo è divulgazione, non consulenza sul caso concreto. Per valutare un sistema di IA o un trattamento di dati specifico (DPIA, valutazione d’impatto sui diritti fondamentali, governance) serve un’analisi dedicata.