Il Messaggio di Papa Francesco su “Intelligenza artificiale e Pace”.
Le proposte alla comunità scientifica e alla comunità internazionale.
È sempre l’uomo che preme il grilletto per uccidere. Magari non lo fa quando parte il colpo di proiettile, di bomba, di missile, di drone. Lo ha fatto molto tempo prima quando ha armato il grilletto perché scattasse ad una certa ora e in un luogo preciso. O prima ancora, quando ha “insegnato” ad un algoritmo come scegliere bersaglio e tempo.
La ricerca sulle tecnologie emergenti nel settore dei cosiddetti “sistemi d’arma autonomi letali”, incluso l’utilizzo bellico dell’intelligenza artificiale, è un grave motivo di preoccupazione etica.
I sistemi d’arma autonomi non potranno mai essere soggetti moralmente responsabili: l’esclusiva capacità umana di giudizio morale e di decisione etica è più di un complesso insieme di algoritmi, e tale capacità non può essere ridotta alla programmazione di una macchina che, per quanto “intelligente”, rimane pur sempre una macchina.
Lo scrive Papa Francesco nel Messaggio per la Giornata mondiale della Pace del 1° Gennaio 2024, che è stato presentato ufficialmente giovedì 14 dicembre, pur portando la tradizionale data dell’8 dicembre.
Il rapporto dell’uomo con la sua natura stessa
Ad agosto, quando il Vaticano lo aveva annunciato, il tema “Intelligenza artificiale e Pace”, scelto da Papa Francesco, si prestava già a riflessioni, e conseguenti impegni, sull’umanità di oggi e sulla vita che è saggio e giusto prepararle per domani e oltre.
Ora il Messaggio del Papa per la Giornata illustra la fondatezza e l’urgenza dell’accostamento tra pace e intelligenza artificiale, in una dettagliata panoramica sul rapporto dell’uomo con la sua natura stessa.
Ancora una volta nella storia, la consapevolezza della centralità e della supremazia della persona umana serve a gestire “entusiasmanti opportunità e gravi rischi”. È sempre stata questa la condizione, fin dall’inizio dell’umanità, scrive Papa Francesco in apertura del Messaggio.
La Sacra Scrittura attesta che Dio ha donato agli uomini il suo Spirito affinché abbiano «saggezza, intelligenza e scienza in ogni genere di lavoro» (Es 35,31). L’intelligenza è espressione della dignità donataci dal Creatore, che ci ha fatti a sua immagine e somiglianza (cfr Gen 1,26) e ci ha messo in grado di rispondere al suo amore attraverso la libertà e la conoscenza. La scienza e la tecnologia manifestano in modo particolare tale qualità fondamentalmente relazionale dell’intelligenza umana: sono prodotti straordinari del suo potenziale creativo.
L’intelligenza derivata e frammentaria degli algoritmi
Programmi di intelligenza artificiale come ChatGPT stanno sollevando un dibattito non solo tecnico e scientifico, ma anche etico e per serti versi esistenziale proprio perché possono automatizzare la capacità cognitiva dell’uomo, replicando così la natura stessa della persona umana e della sua intelligenza.
In questo dibattito Papa Francesco propone di tenere sempre conto, oltre che della natura dell’intelligenza umana, della natura dell’intelligenza artificiale. Quest’ultima è una natura “derivata” (strettamente legata alle decisioni di chi progetta la sperimentazione e indirizza la produzione verso particolari obiettivi) e “frammentaria” (nel senso che [i suoi sistemi] possono solo imitare o riprodurre alcune funzioni dell’intelligenza umana).
Nella stesura definitiva del Messaggio Papa Francesco ribadisce un concetto che era già stato anticipato nell’annuncio di agosto: allora il Bollettino della Sala stampa vaticana scriveva di “Intelligenze artificiali e Pace” al plurale. Ora il titolo del Messaggio è al singolare, ma il contenuto culturale della scelta grammaticale del plurale è qui ben esplicitato, perché si parla di “forme di intelligenza artificiale”.
Parlare al plurale di “forme di intelligenza” può aiutare a sottolineare soprattutto il divario incolmabile che esiste tra questi sistemi, per quanto sorprendenti e potenti, e la persona umana.
Responsabilità etica della persona umana e dell’umanità
Quella di Papa Francesco è insieme una rassicurazione e un richiamo alla responsabilità. Il Messaggio ribadisce in più punti che titolare dei processi di intelligenza artificiale e dei suoi risultati è all’inizio e alla fine la persona umana, singolarmente e come umanità. Ma proprio da questa certezza nasce la riaffermazione ricorrente della responsabilità etica della persona umana e dell’umanità.
Le macchine “intelligenti” possono svolgere i compiti loro assegnati con sempre maggiore efficienza, ma lo scopo e il significato delle loro operazioni continueranno a essere determinati o abilitati da esseri umani in possesso di un proprio universo di valori.
La citazione riassume efficacemente il concetto variamente articolato da Papa Francesco.
Lo ribadisce, ad esempio, sul tema della pace, al quale il Messaggio rimanda in vista della Giornata mondiale di Capodanno.
In questi giorni, guardando il mondo che ci circonda, non si può sfuggire alle gravi questioni etiche legate al settore degli armamenti.
La possibilità di condurre operazioni militari attraverso sistemi di controllo remoto ha portato a una minore percezione della devastazione da essi causata e della responsabilità del loro utilizzo, contribuendo a un approccio ancora più freddo e distaccato all’immensa tragedia della guerra. (…)
Per questo motivo, è imperativo garantire una supervisione umana adeguata, significativa e coerente dei sistemi d’arma.
Perché non diventi artificiale il cuore
L’applicazione militare delle ricerche scientifiche è sempre esistita. Applicazione degli studi sugli atomi sono state – ad esempio – le bombe atomiche sganciate dagli Stati Uniti sulle città giapponesi di Hiroshima e Nagasaki nell’agosto del 1945: una devastazione di vite umane e di ambiente naturale e urbano.
Ora gli strumenti delle intelligenze artificiali possono non solo replicare quelle devastazioni e renderle più diffusive, ma anche – ed è la novità sottolineata da Papa Francesco – rendono inutile la presenza umana nel campo di battaglia. È l’algoritmo a premere il grilletto. È l’algoritmo a sganciare la bomba.
Questo è quello che accade? Questo è quello che si può essere portato a pensare? È solo apparenza, ripete il Messaggio del Santo Padre. È un’apparenza che, mentre distrugge i bersagli, distrugge l’umanità di chi ha programmato quelle armi.
Così facendo, non solo l’intelligenza, ma il cuore stesso dell’uomo, correrà il rischio di diventare sempre più “artificiale”.
Approfondire l’algoretica
Per ridurre, e possibilmente eliminare, questo rischio Papa Francesco fa due proposte: una alla comunità scientifica e una alla comunità internazionale.
Con la comunità scientifica ritorna su una parola, algoretica, che ha cominciato a diffondere all’inizio di questo decennio.
Uno sguardo umano e il desiderio di un futuro migliore per il nostro mondo portano alla necessità di un dialogo interdisciplinare finalizzato a uno sviluppo etico degli algoritmi – l’algor-etica –, in cui siano i valori a orientare i percorsi delle nuove tecnologie. Le questioni etiche dovrebbero essere tenute in considerazione fin dall’inizio della ricerca, così come nelle fasi di sperimentazione, progettazione, produzione, distribuzione e commercializzazione.
Questo è l’approccio dell’etica della progettazione, in cui le istituzioni educative e i responsabili del processo decisionale hanno un ruolo essenziale da svolgere.
La proposta per la comunità internazionale è un trattato internazionale vincolante in materia di intelligenze artificiali.
Un trattato internazionale vincolante
L’utilità di un trattato è motivata con due constatazioni.
Non è sufficiente nemmeno presumere, da parte di chi progetta algoritmi e tecnologie digitali, un impegno ad agire in modo etico e responsabile.
Il loro impatto, al di là della tecnologia di base, dipende non solo dalla progettazione, ma anche dagli obiettivi e dagli interessi di chi li possiede e di chi li sviluppa, nonché dalle situazioni in cui vengono impiegati.
Questa la proposta di Papa Francesco.
La portata globale dell’intelligenza artificiale rende evidente che, accanto alla responsabilità degli Stati sovrani di disciplinarne l’uso al proprio interno, le Organizzazioni internazionali possono svolgere un ruolo decisivo nel raggiungere accordi multilaterali e nel coordinarne l’applicazione e l’attuazione.
A tale proposito, esorto la Comunità delle nazioni a lavorare unita al fine di adottare un trattato internazionale vincolante, che regoli lo sviluppo e l’uso dell’intelligenza artificiale nelle sue molteplici forme.
L’obiettivo della regolamentazione, naturalmente, non dovrebbe essere solo la prevenzione delle cattive pratiche, ma anche l’incoraggiamento delle buone pratiche, stimolando approcci nuovi e creativi e facilitando iniziative personali e collettive.
Sergio Mattarella: intelligenza artificiale e multilateralismo
Quasi contemporaneamente alla pubblicazione del Messaggio papale per la Giornata della Pace il presidente della Repubblica Sergio Mattarella ha citato l’intelligenza artificiale tra le sfide globali del nostro secolo.
Venerdì scorso, 15 dicembre, Mattarella ha incontrato il Corpo diplomatico nell’annuale cerimonia per lo scambio degli auguri di fine anno. Tema centrale del suo saluto è stata l’urgenza di riformare, per conservarlo, il multilateralismo.
L’indebolimento del multilateralismo non poteva accadere in un momento peggiore, in cui tutte le sfide più grandi del ventunesimo secolo sono di carattere globale.
Dalle pandemie ai cambiamenti climatici, dalla sicurezza cibernetica al governo dell’intelligenza artificiale, dalla lotta alla povertà alla proliferazione nucleare, tutte le minacce a cui dobbiamo far fronte richiedono multilateralismo e cooperazione internazionale.
Le iniziative recentemente assunte in sede europea in materia di Intelligenza Artificiale, per la definizione di standard e di regole, sono un esempio di buone pratiche a vantaggio di tutta la comunità internazionale.
Piena la sintonia con le valutazioni di Papa Francesco, che anche in questo Messaggio torna a far luce sull’industria delle armi.
Il mondo non ha proprio bisogno che le nuove tecnologie contribuiscano all’iniquo sviluppo del mercato e del commercio delle armi, promuovendo la follia della guerra.
Le più avanzate applicazioni tecniche non vanno impiegate per agevolare la risoluzione violenta dei conflitti, ma per pavimentare le vie della pace.
17 dicembre 2023
In copertina
Particolare dell’infografica sulla Giornata mondiale della Pace distribuita dal Dicastero per lo Sviluppo umano integrale del Vaticano.