Attenzione all’intelligenza artificiale, dice Papa Leone XIV. Non lasciamola in poche mani, può portare all’aumento delle disuguaglianze, a produrre una mera imitazione dei sentimenti umani. A una visione “antiumana”. Disarmiamo AI, dunque.
Più nello specifico del mondo dell’informazione, attenzione a un potere privo di verità, che genera confusione tra vero e falso. Educhiamo a quando usare e quando non usare AI. Sono alcuni dei concetti contenuti nella prima enciclica del Papa americano, Magnifica Humanitas, quasi 250 pagine sulla “custodia della persona umana nel tempo dell’Intelligenza artificiale”, dove -in questa chiave- si toccano tanti temi, la potenza dell’algoritmo, l’effetto sui minori, il lavoro perduto, la cultura omologata, il nuovo colonialismo, la schiavitù. In tutta l’opera il Papa tiene sempre presente l’esigenza della cura e della custodia della “Casa comune” di tutte le donne e tutti gli uomini. Fermeremo qui alcuni concetti molto importanti che riguardano l’intelligenza artificiale, l’informazione e la comunicazione.
Concetti che difficilmente saranno ascoltati da quei pochi che oggi stanno sviluppando a velocità supersoniche l’Intelligenza artificiale, in vista di profitti sempre più stratosferici.
Concetti che però dovrebbero essere meditati da chi compie le scelte politiche nei Paesi del mondo. Prima che sia troppo tardi.
GRANDE AIUTO. “Intelligenza artificiale, scienze cognitive, nanotecnologia, robotica e biotecnologia. Di per sé, tali innovazioni possono diventare un grande aiuto per lo sviluppo umano integrale e per la cura della Casa comune. Ma, proprio per il loro potere, possono agire come un acceleratore del paradigma tecnocratico e perciò hanno bisogno di un nuovo quadro spirituale, etico e politico”.
IN BASE ALLE PRESTAZIONI. “Se lo sviluppo tecnologico procede senza un’adeguata maturazione etica e sociale, può accadere che aumentino i mezzi senza che cresca in pari misura l’umanità: si ‘ha di più’ ma non si ‘è di più’, e la persona rischia di essere valutata soprattutto in base alle prestazioni che garantisce”.
SVILUPPO DISTORTO. “In molti casi nel contesto digitale, il controllo delle piattaforme, delle infrastrutture, dei dati e della capacità di calcolo non è appannaggio degli Stati, ma di grandi attori economici e tecnologici che, di fatto, fissano le condizioni di accesso, le regole della visibilità e le possibilità stesse di partecipazione. Quando un potere di tale portata si concentra in poche mani, tende a farsi opaco e a sfuggire al controllo pubblico, e cresce il rischio di uno sviluppo distorto che genera nuove dipendenze, esclusioni, manipolazioni e disuguaglianze”.
NE’ GIOIA NE’ DOLORE. “Questi sistemi imitano alcune funzioni dell’intelligenza umana. Nel farlo, spesso la superano per velocità e ampiezza di calcolo, offrendo benefici concreti in numerosi campi. E tuttavia, questa potenza resta legata esclusivamente al trattamento dei dati: le cosiddette intelligenze artificiali non vivono una esperienza, non possiedono un corpo, non attraversano la gioia e il dolore, non maturano nella relazione, non conoscono dall’interno ciò che significa amore, lavoro, amicizia, responsabilità. Non hanno neppure una coscienza morale: non giudicano il bene e il male, non colgono il senso ultimo delle situazioni, non assumono su di sé il peso delle conseguenze”.
DATI E RISCONTRI. “Possono imitare linguaggi, comportamenti, valutazioni, possono simulare empatia o comprensione, ma non capiscono ciò che producono, perché non abitano l’orizzonte affettivo, relazionale e spirituale in cui l’umano diventa sapiente. Anche quando tali strumenti vengono presentati come capaci di ‘apprendere’, il loro modo di farlo è diverso da quello della persona umana. Non è l’esperienza di chi si lascia plasmare dalla vita e cresce nel tempo attraverso scelte, errori, perdono, fedeltà; è piuttosto un adattamento statistico a partire da dati e riscontri, che può essere molto efficace, ma non implica una crescita interiore”.
RISPOSTE PRONTE. “Nell’uso personale, tre aspetti, in particolare, devono essere tenuti in debita considerazione: la facilità di ottenere il risultato, l’impressione di oggettività e la simulazione della comunicazione umana. La velocità e la semplicità con cui è possibile ottenere indicazioni, elaborazioni complesse, contenuti mediatici e forme di assistenza concreta semplificano le nostre vite, ma possono anche abituarci a delegare troppo e a cercare risposte pronte, indebolendo il giudizio personale e la creatività”.
PARAMETRI CULTURALI. “L’impressione di oggettività che le risposte e le proposte di questi sistemi possono suscitare rischia di farci dimenticare che esse riflettono i parametri culturali di chi li ha progettati e addestrati, con tutti i loro pregi e difetti”.
PAROLA SIMULATA. “L’imitazione artificiale di una comunicazione umana positiva – parole di consiglio, di empatia, di amicizia, di amore – può risultare gratificante e persino utile, ma in utenti poco consapevoli può trarre in inganno e illudere di essere in relazione con un autentico soggetto personale. Quando la parola viene simulata, essa non costruisce una relazione, ma una sua parvenza. L’imitazione artificiale della relazione di cura o di accompagnamento può diventare pericolosa quando si insinua in un contesto povero di relazioni e di affetti reali: allora il rischio non è tanto che una persona creda di parlare con un’altra persona, ma che perda il desiderio stesso di cercare davvero l’altro”.
ENERGIA E ACQUA. “Gli attuali sistemi di AI richiedono grandi quantità di energia e acqua, incidono in modo significativo sulle emissioni di anidride carbonica e consumano risorse in maniera intensiva.
Per questo è essenziale sviluppare soluzioni tecnologiche più sostenibili per ridurre l’impatto sull’ambiente e custodire la nostra Casa comune”.
SCARTO DEI DEBOLI. “Affidare, nei fatti, a un algoritmo il potere di selezionare chi merita e chi no, senza che nessuno si assuma più il peso della decisione, significa affidargli il compito di ridefinire i confini delle possibilità umane. Ciò che viene meno, in questo processo, non è solo l’empatia verso l’escluso, che può essere imitata artificialmente, ma la responsabilità politica, perché lo scarto dei deboli viene ammantato di neutralità e oggettività, davanti alle quali è impossibile protestare. E così, l’ingiustizia si fa silenziosa e la compassione, la misericordia e il perdono, non come mera apparenza, ma come gesti politici, scompaiono dall’orizzonte”.
PROCESSI MISTERIOSI. “Perché l’AI rispetti la dignità umana e serva davvero il bene comune, è essenziale che siano chiare le responsabilità in tutti i passaggi: da chi progetta e addestra i sistemi fino a chi li utilizza e a chi decide di affidare ad essi le scelte concrete. In molti casi, tuttavia, i processi interni che conducono a un risultato possono essere poco trasparenti, e ciò rende più difficile attribuire responsabilità e correggere gli errori”.
REGOLE DETTATE. “Chiedere prudenza, verifiche rigorose, e talvolta anche un rallentamento nell’adozione dell’AI non significa essere contro il progresso, ma esercitare una cura responsabile verso la famiglia umana. Questa esigenza è ancora più urgente perché esiste spesso uno squilibrio tra la velocità dello sviluppo tecnologico e il ritmo con cui maturano consapevolezza, norme, controlli e istituzioni capaci di governarne gli effetti. Non basta invocare genericamente l’etica: servono quadri giuridici adeguati, vigilanza indipendente, educazione degli utenti, una politica che non abdichi al proprio compito”.
GRUPPI INFLUENTI. “Come accade per ogni grande svolta tecnologica, l’AI tende ad accrescere soprattutto il potere di chi dispone già di risorse economiche, competenze e accesso ai dati. Alla luce del bene comune e della destinazione universale dei beni, questo fenomeno desta seria preoccupazione: piccoli gruppi molto influenti possono orientare informazione e consumi, condizionare processi democratici e incidere sulle dinamiche economiche a proprio vantaggio, contraddicendo la giustizia sociale e la solidarietà tra i popoli”.
NON SOLO PRIVATI. “E’ indispensabile che l’impiego dell’AI – soprattutto quando coinvolge beni pubblici e diritti fondamentali – sia accompagnato da criteri chiari e controlli effettivi, ispirati alla partecipazione e alla sussidiarietà: le comunità e i corpi intermedi non possono essere ridotti a destinatari di decisioni prese altrove, ma devono poter contribuire al discernimento e alla vigilanza. Inoltre, la proprietà dei dati non può essere affidata solo a privati, ma va regolamentata. Essi sono frutto del contributo di molti e non possono essere venduti o affidati a pochi”.
DOMINARE L’UMANO. “Vorrei usare una parola che mi sta a cuore: “disarmare”. Disarmare l’IA significa sottrarla alla logica della competizione armata, che oggi non è più solo militare ma economica e cognitiva. È la corsa all’algoritmo più performante e alla banca dati più vasta, al fine di consolidare un vantaggio geopolitico o commerciale su tutti gli altri. Disarmare vuol dire rompere questa equivalenza tra potenza tecnica e diritto di governare. Disarmare non significa rinunciare alla tecnologia, ma impedirle di dominare l’umano. Significa sottrarla ai monopoli, renderla discutibile, contestabile, e quindi abitabile, restituendola alla pluralità delle culture umane e delle forme di vita”.
VISIONE ANTIUMANA. “Il rischio non è solo che alcune tecnologie siano usate male, ma che il paradigma tecnocratico in cui siamo immersi, potenziato dalla rivoluzione digitale e dall’AI, faccia sembrare giusta e normale una visione antiumana, secondo cui la pienezza della vita consisterebbe nell’avere di più, nel ridurre la fragilità, eliminare l’imprevisto, controllare ogni cosa. Quando l’efficienza diventa misura del valore, l’essere umano è tentato di pensarsi come un progetto da ottimizzare più che come una creatura chiamata alla relazione e alla comunione”.
FIDUCIA E CONFRONTO. “La disinformazione non nasce con l’AI, ma trova oggi in essa un moltiplicatore potente.
Nel discorso pubblico, la verità dei fatti possiede una dimensione razionale, poiché richiede verifica, riscontro delle fonti e responsabilità argomentativa; ma è ancor più relazionale: si costruisce attraverso legami di fiducia e pratiche condivise, in un confronto onesto con gli altri e con il mondo. Solo la ricerca condivisa della verità dei fatti, assunta come bene comune, può fondare una comunicazione giusta”.
IMPORRE SOTTILMENTE. “Coloro che dispongono di potenti risorse tecniche ed economiche – e, con esse, anche di molte risorse umane per intervenire – hanno un’importante capacità di indurre cambiamenti culturali e, in ultima analisi, di convincere un numero significativo di persone su quale sia la verità sull’essere umano, sul mondo, sul senso dell’esistenza, sulla famiglia, persino su Dio. Questo è puro potere privo di verità, che impone sottilmente o apertamente ciò che vuole che gli altri considerino vero”.
SUDDITI IDEALI. “La ricerca della verità è un elemento essenziale per la democrazia, che è essa stessa uno strumento di partecipazione al bene comune.
Il disinteresse per la verità porta lentamente ma inesorabilmente a scivolare verso il totalitarismo, per il quale, come ha scritto la filosofa Hannah Arendt, i sudditi ideali non sono tanto quelli ideologicamente convinti, ma ‘la gente per la quale la distinzione tra fatto e finzione (cioè, la realtà dell’esperienza) e la distinzione tra vero e falso (cioè, i canoni del pensiero) non esistono più’”.
DESIDERIO DI DOMANDE. “La pervasività dei media digitali genera una cultura dell’immediatezza e dell’iperstimolazione, che alimenta stanchezza, noia e apatia di fronte alla fatica necessaria per cercare la verità.
I processi educativi, invece, hanno bisogno di tempi di maturazione, di confronto con la realtà oltre le apparenze e di un cammino paziente. La questione è radicale, perché ogni tecnologia educa chi la utilizza. Educare all’uso dell’AI implica quindi educare a decidere quando e per cosa non usarla. La velocità e la facilità con cui si ottiene una risposta o una sintesi rischiano di spegnere il desiderio di porre domande, che solo nella durata porta frutto”.
MACCHINA PERFETTA. “Dobbiamo educarci a digiunare dall’AI e proteggere i nostri giovani dalla promessa della macchina perfetta, da quella seduzione sottile che fa sembrare inutile il pensiero umano proprio quando è più necessario”.
(nella foto, Papa Leone XIV)
