Oltre l'uomo? transumanesimo e post umanesimo - IX pillola dalla Enciclica Magnifica humanitas

112. Dopo aver richiamato le questioni della responsabilità e del governo dell’IA, è necessario tornare al nostro tema centrale: che cosa significa custodire l’umano. Il rischio non è solo che alcune tecnologie siano usate male, ma che il paradigma tecnocratico in cui siamo immersi, potenziato dalla rivoluzione digitale e dall’IA, faccia sembrare giusta e normale una visione antiumana, secondo cui la pienezza della vita consisterebbe nell’avere di più, nel ridurre la fragilità, eliminare l’imprevisto, controllare ogni cosa. Quando l’efficienza diventa misura del valore, l’essere umano è tentato di pensarsi come un progetto da ottimizzare più che come una creatura chiamata alla relazione e alla comunione.

113. In realtà, assolutizzare una sola dimensione dell’essere umano è sempre sbagliato. Infatti, non è solo la mancanza a generare disordine. Anche ciò che cresce senza misura può diventare una forma di povertà. In un ecosistema, l’armonia si spezza quando una sola specie prolifera a scapito delle altre; nell’umano, accade lo stesso quando una facoltà pretende di farsi misura di tutto. Così l’intelligenza, se assolutizzata, finisce per oscurare altre dimensioni essenziali della vita: l’affetto, la volontà, la dedizione e la relazione. Il potere tecnico, se non viene bilanciato, non ci rende più capaci: ci rende più soli, e più esposti a logiche di dominio e di esclusione. Non si tratta certo di opporsi all’intelligenza, ma di ricordare che essa, quando si ripiega in se stessa, dimentica di essere fatta per servire la vita e la persona umana.

114. La qualità di una civiltà si misura non dalla potenza dei suoi mezzi, ma dalla cura che sa offrire, dalla capacità di riconoscere l’altro come volto e non come funzione. La capacità di saperci prendere cura gli uni degli altri è una dimensione importante del nostro essere umani. Questa capacità si apprende e si perfeziona con l’esperienza. Leggere le fiabe a un bambino, fare compagnia a una persona anziana, rendere accogliente uno spazio, sono gesti che si vivono in ambiente familiare, ma che ci aiutano ad apprendere e a interiorizzare l’importanza della cura a livello sociale e ci allenano a riconoscere l’altro come persona degna di attenzione. La tecnologia può sostenere anche la cura reciproca tra persone, ad esempio se offre strumenti che aiutano a prevedere e organizzare, ma senza esautorare la libertà e il giudizio dell’essere umano, soggetto delle relazioni e responsabile delle decisioni.

Narrazioni di fondo: transumanesimo e postumanesimo

115. Cercando di far emergere i presupposti culturali che accompagnano la rivoluzione digitale in corso, vorrei ora rivolgere l’attenzione ad alcune correnti che interpretano il progresso come superamento dell’umano e che possiamo raccogliere sotto il nome di transumanesimo e postumanesimo. Esse costituiscono lo sfondo ideologico che abita alcuni centri di potere tecnologico e colonizzano l’immaginario collettivo in forma semplificata, specie nei media e nelle reti sociali, inducendo l’entusiasmo per le nuove tecnologie con una visione futuristica di “uomo potenziato” oppure di “uomo ibridato” con la macchina.

116. Il transumanesimo e il postumanesimo comprendono al loro interno una pluralità di correnti e sensibilità, ed è difficile poterne dare una descrizione univoca. Possono essere paragonati a un arcipelago di isole concettuali differenti, collegate però dal medesimo mare di presupposti: la centralità della tecnica e il sogno di oltrepassare i limiti della condizione umana. In generale, il transumanesimo immagina un potenziamento dell’essere umano attraverso le tecnologie (biomedicina, ingegneria del corpo, dispositivi, algoritmi), con l’aspirazione a incrementare prestazioni e capacità. Il postumanesimo, soprattutto nelle sue versioni più radicali, si spinge oltre: critica l’antropocentrismo e prospetta una forma di ibridazione tra essere umano, macchina e ambiente, fino a immaginare un passaggio di soglia in cui l’umanità supererà se stessa entrando in un nuovo stadio evolutivo. Anche quando queste ipotesi restano in larga parte speculative, esse acquistano rilevanza, perché modificano l’immaginario collettivo e, di conseguenza, orientano le scelte sociali, economiche e politiche.

117. Il punto critico, alla luce della Dottrina sociale della Chiesa, non è l’uso della tecnica in quanto tale, ma la visione che vi soggiace: se l’essere umano è trattato come materiale da perfezionare o da oltrepassare, allora diventa più facile accettare che alcuni vengano considerati meno utili, meno desiderabili, meno degni. In nome del progresso si può arrivare a immaginare “sacrifici necessari”, e a far pagare ai più fragili il prezzo di una presunta ottimizzazione della specie. Il già menzionato monito di San Paolo VI rimane allora di grande lungimiranza: davvero le conquiste della scienza e della tecnica, svincolate dal progresso morale e sociale, finiscono per ritorcersi contro l’uomo.

Per questo è necessario distinguere con chiarezza: una cosa è integrare le tecnologie in una visione umana e relazionale, un’altra è lasciarsi guidare da un immaginario che svaluta il limite e promette una “salvezza” puramente tecnica.

Basta un pizzico di morale per l'intelligenza artificiale? - VIII pillola dalla Magnifica humanitas

 

106. Chiedere prudenza, verifiche rigorose, e talvolta anche un rallentamento nell’adozione dell’IA non significa essere contro il progresso, ma esercitare una cura responsabile verso la famiglia umana. Questa esigenza è ancora più urgente perché esiste spesso uno squilibrio tra la velocità dello sviluppo tecnologico e il ritmo con cui maturano consapevolezza, norme, controlli e istituzioni capaci di governarne gli effetti. Non basta invocare genericamente l’etica: servono quadri giuridici adeguati, vigilanza indipendente, educazione degli utenti, una politica che non abdichi al proprio compito. Altrimenti, il cambiamento sarà governato solo da logiche tecnocratiche e presentato come necessario e inevitabile, finendo per imporre regole dettate da chi possiede dati, infrastrutture e capacità di calcolo.

107. Non possiamo limitarci a invocare la moralizzazione della macchina, il cosiddetto “allineamento” dell’IA a valori umani, senza avere il coraggio di porre una ulteriore condizione: la possibilità di discutere il codice etico da usare, sottoponendolo a criteri di giustizia sociale condivisa. Altrimenti, chi controlla l’IA imporrà la propria visione morale, che diventerà l’infrastruttura invisibile dei sistemi. Non serve un’IA più morale, se questa morale è decisa da pochi. Serve una politica più presente, capace di rallentare dove tutto accelera e di proteggere gli spazi in cui le comunità possono ancora partecipare e interrogarsi.

108. In effetti, come accade per ogni grande svolta tecnologica, l’IA tende ad accrescere soprattutto il potere di chi dispone già di risorse economiche, competenze e accesso ai dati. Alla luce del bene comune e della destinazione universale dei beni, questo fenomeno desta seria preoccupazione: piccoli gruppi molto influenti possono orientare informazione e consumi, condizionare processi democratici e incidere sulle dinamiche economiche a proprio vantaggio, contraddicendo la giustizia sociale e la solidarietà tra i popoli. Per questo è indispensabile che l’impiego dell’IA – soprattutto quando coinvolge beni pubblici e diritti fondamentali – sia accompagnato da criteri chiari e controlli effettivi, ispirati alla partecipazione e alla sussidiarietà: le comunità e i corpi intermedi non possono essere ridotti a destinatari di decisioni prese altrove, ma devono poter contribuire al discernimento e alla vigilanza. Inoltre, la proprietà dei dati non può essere affidata solo a privati, ma va regolamentata. Essi sono frutto del contributo di molti e non possono essere venduti o affidati a pochi. Serve una creatività in grado di gestirli come uno dei beni comuni o collettivi, nella logica della condivisione, come già suggeriva San Giovanni Paolo II, a proposito dei beni collettivi.