Basta un pizzico di morale per l'intelligenza artificiale? - VIII pillola dalla Magnifica humanitas

 

106. Chiedere prudenza, verifiche rigorose, e talvolta anche un rallentamento nell’adozione dell’IA non significa essere contro il progresso, ma esercitare una cura responsabile verso la famiglia umana. Questa esigenza è ancora più urgente perché esiste spesso uno squilibrio tra la velocità dello sviluppo tecnologico e il ritmo con cui maturano consapevolezza, norme, controlli e istituzioni capaci di governarne gli effetti. Non basta invocare genericamente l’etica: servono quadri giuridici adeguati, vigilanza indipendente, educazione degli utenti, una politica che non abdichi al proprio compito. Altrimenti, il cambiamento sarà governato solo da logiche tecnocratiche e presentato come necessario e inevitabile, finendo per imporre regole dettate da chi possiede dati, infrastrutture e capacità di calcolo.

107. Non possiamo limitarci a invocare la moralizzazione della macchina, il cosiddetto “allineamento” dell’IA a valori umani, senza avere il coraggio di porre una ulteriore condizione: la possibilità di discutere il codice etico da usare, sottoponendolo a criteri di giustizia sociale condivisa. Altrimenti, chi controlla l’IA imporrà la propria visione morale, che diventerà l’infrastruttura invisibile dei sistemi. Non serve un’IA più morale, se questa morale è decisa da pochi. Serve una politica più presente, capace di rallentare dove tutto accelera e di proteggere gli spazi in cui le comunità possono ancora partecipare e interrogarsi.

108. In effetti, come accade per ogni grande svolta tecnologica, l’IA tende ad accrescere soprattutto il potere di chi dispone già di risorse economiche, competenze e accesso ai dati. Alla luce del bene comune e della destinazione universale dei beni, questo fenomeno desta seria preoccupazione: piccoli gruppi molto influenti possono orientare informazione e consumi, condizionare processi democratici e incidere sulle dinamiche economiche a proprio vantaggio, contraddicendo la giustizia sociale e la solidarietà tra i popoli. Per questo è indispensabile che l’impiego dell’IA – soprattutto quando coinvolge beni pubblici e diritti fondamentali – sia accompagnato da criteri chiari e controlli effettivi, ispirati alla partecipazione e alla sussidiarietà: le comunità e i corpi intermedi non possono essere ridotti a destinatari di decisioni prese altrove, ma devono poter contribuire al discernimento e alla vigilanza. Inoltre, la proprietà dei dati non può essere affidata solo a privati, ma va regolamentata. Essi sono frutto del contributo di molti e non possono essere venduti o affidati a pochi. Serve una creatività in grado di gestirli come uno dei beni comuni o collettivi, nella logica della condivisione, come già suggeriva San Giovanni Paolo II, a proposito dei beni collettivi.

Merito... non solo. Appunti sulla meritocrazia

 

Parte 1

Come valutare il merito?

Tutto parte dalla seguente domanda birichina che mi sono posto da solo: “Meritocrazia. E' più degno di apprezzamento (e meritevole…) un manager che alza del 2% il profitto della propria azienda farmaceutica o il medico, della medesima azienda, che scopre un farmaco per una malattia rara (dal quale non si prevede pertanto un grosso ritorno in termini di profitto per l'industria farmaceutica)?”
La risposta non è facile, e forse neppure è possibile darne una definitiva. Conviene procedere con ordine.

Il termine meritocrazia viene dal greco, significa letteralmente “potere al merito” e identificando quel tipo di modalità di riconoscimento caratterizzato dal premiare le persone più meritevoli nei campi più vari (aziende, scuole, mondo della finanza, sanità, sport ecc.).
Meritevole è la persona che contribuisce al successo di un ente, dal più piccolo come una famiglia, ai più grandi, come un’azienda o addirittura una nazione.

E qui cominciano i problemi.

Quali sono i criteri per misurare il successo di un ente e come paragonare le storie di successo nell’ambito dei vari enti per premiare le migliori?

E’ più meritevole il manager che alza del 5% l’utile della propria azienda in Borsa, premiando così gli azionisti ma mandando a casa 10.000 dipendenti, o il manager che l’alza solo del 2% ma evita ogni tipo di licenziamento?
E ancora (e qui la risposta sembra a prima vista più facile) è più meritevole lo scienziato che mette a punto il vaccino per una influenza pandemica (che salva milioni di persone e che fornisce un grosso ritorno in termine di profitto) o lo scienziato che scopre un farmaco per le malattie rare (che salva migliaia di persone con un ritorno di profitto ovviamente molto inferiore al precedente)? La vita di più persone vale più della vita di meno persone? ponetevi, prima di rispondere, nei panni di una di queste ultime...

Sembra chiaro che la risposta a queste domande non possa prescindere dall’individuazione di criteri oggettivi atti a misurare il contributo dei singoli al successo e, pertanto, dal tipo di società che si vuole costruire.

Se si vuole costruire una società fondata su valori quali la massimizzazione della ricchezza individuale, del profitto aziendale, del PIL nazionale, saranno considerati meritevoli i cittadini che, con la loro attività, avranno meglio contribuito all’accrescimento quantitativo di questi valori.
Se invece la meta è quella di una società in cui si possa vivere meglio, in cui sia distribuita comunque una base di ricchezza sufficiente per una vita dignitosa, e si punti ad uno sviluppo rispettoso delle esigenze ambientali e della necessità di un solido contesto relazionale interpersonale, allora saranno considerati meritevoli i cittadini che maggiormente si saranno impegnati sul fronte della salute, dell’ambiente e di tutto quant’altro consente alle persone di avere solide e realizzanti relazioni umane.

Pertanto solo se si ha chiaro il modello di sviluppo da implementare e il tipo di società da costruire si potrà meglio capire cosa si intenda effettivamente per merito. Di qui la prima conclusione che non può esistere una concezione di merito condivisa da tutti ma che tale concezione dipenda in maniera molto rilevante dai valori sociali che i singoli cittadini professano.

E non è l’unica questione che si presenta.

E’ comune esperienza (sia pratica che scientifica) che le prestazioni individuali (professionali, sportive, relazionali) dipendono in gran parte da fattori che prescindono dall’impegno individuale. A titolo di esempio possiamo individuare alcuni di questi:

·       il quoziente di intelligenza (Q.I.);

·       l’ambiente familiare e sociale da cui si proviene;

·       il percorso di studi (spesso obbligato) portato (o non) a termine;

·       le doti fisiche e psichiche (talento) naturali.

Come valutare i meriti di due lavoratori di cui uno, con Q.I. superiore alla media, completa un incarico in pochi minuti e senza eccessiva fatica, e l’altro, con Q.I. inferiore alla media, in un’ora ma con grande impegno? Certo il primo avrà del tempo disponibile per portare a termine altri lavori e il secondo forse no, ma chi dei due è stato più meritevole?

Certo, se ci si basa solo sul criterio del profitto, il primo risulterà necessariamente vincente, ma abbiamo visto che il successo materiale non può essere il solo criterio. Magari il secondo lavoratore, più lento ma maggiormente impegnato, potrebbe essere più capace di integrarsi in un efficace lavoro di team.
E ancora, per tornare ad una domanda iniziale, come valutare, in termini di merito, lo scienziato che predispone il vaccino per milioni persone e quello invece che, magari con maggior impegno, scopre una medicina per una malattia rara? Valuteremo il merito in termini di ritorno di profitto, di numero di potenziali persone (pesandone l’importanza individuale in funzione del numero), o invece misureremo la quantità di impegno profuso da ciascuno dei due nel loro lavoro?
Come valutare l’insegnante, dotata di carisma personale, in grado di tenere la classe in termini di disciplina ma con scarsa capacità di trasmettere conoscenze e valori, con un’altra, magari meno esuberante, talvolta schiacciata dagli studenti, ma intenta, con grande impegno, a veicolare in loro sia le conoscenze tecniche che i principali valori sociali? Certo la prima arrecherà meno fastidio al Dirigente scolastico (che potrà limitare i suoi interventi di tipo disciplinare) ma dovrà essere considerata più meritevole dell’altra?

E non sono finiti gli interrogativi da porre sulla questione della meritocrazia.

Come comportarsi sui periodi di valutazione? Dovremo considerare più meritevole il ricercatore che, annualmente, produce singoli risultati di rilevanza normale, o un altro ricercatore, impegnato in un lavoro più complesso e con necessità di maggior tempo di analisi, che raggiungerà un risultato molto più importante ma dopo più anni? Generalmente si è portati a considerare il breve periodo, ma è giusto, non ci limiteremo così a premiare gli sforzi brevi e a disincentivare gli studi lunghi e complessi?

Riepilogando,

·       scopo ultimo del lavoro,

·       importanza dei fattori individuali predeterminati,

·       rapporto fra risultato e impegno,

·       lunghezza del periodo di valutazione

sono (e forse ce ne saranno anche altri) quattro elementi che mettono a dura prova la fondatezza e la ragionevolezza del motto “potere al merito”.

L’impressione netta è, che in questa come in altre questioni sociali, occorra evitare ogni fondamentalismo, ogni presunzione che problemi complessi siano risolvibili con soluzioni semplici, che ci possano essere, in ogni caso, scorciatoie in grado di evitare la indispensabile fatica del discernere, comprendere e solo alla fine decidere.

Il reale merito dovrà essere valutato tenendo conto non solo del contributo al profitto, al guadagno finanziario o al PIL, ma anche di fattori diversi quali l’impegno individuale, il contributo al bene comune e l’importanza del lavoro in rapporto al tempo impiegato. Solo in una ottica così allargata diventerebbe possibile avviare una concreta e giusta politica di riconoscimento del merito.

 

Parte 2

Ma è vero merito?

Ma, nel sostenere il principio meritocratico, siamo certi che veramente stiamo riconoscendo il merito delle persone che premiamo?
Non sarà necessario, prima di ogni cosa, mettere tutte le persone in condizione di godere delle medesimo opportunità? Ovvero garantire quella che viene definita come l’uguaglianza delle condizioni di partenza, di uguaglianza garantita come pari opportunità per arrivare al successo nel proprio campo?
Una volta che fossero definite ed implementate delle sane e positive politiche in campo scolastico, sociale, sanitario, culturale per potenziare i soggetti più deboli e consentire loro di dedicarsi alla attività desiderata perché non innescare, a questo punto, il principio meritocratico e riconoscere il valore dei più meritevoli?

Forse perché il talento del quale siamo dotati e che ci permette di raggiungere o meno determinati risultati di successo non può essere considerato solo “nostro” ma è frutto di un dono o della sorte.
Ogni essere umano nasce infatti con un determinato patrimonio genetico, con determinate doti caratteriali che vengono affinate e potenziate dall’ambiente familiare e sociale nel quale viviamo e che ci offre (ci dona) precise possibilità di crescita.
il DNA genitoriale, il contesto culturale e professionale delle nostre amicizie, la possibilità di accedere a strutture formative adeguate, le risorse finanziare necessarie per viaggiare e conoscere ambienti diversi, sono tutti elementi che giocano a favore (o a sfavore…) di ciascuno di noi nella via verso il successo.
Chi ha avuto la sorte di vivere in un contesto favorevole,  di aver goduto di una istruzione adeguata, di aver frequentato stimolanti ambienti nazionali e internazionali, ha davvero pochi meriti personali in più rispetto a chi ha avuto una sorte sfavorevole per poter pretendere e rivendicare un riconoscimento maggiore nel raggiungimento di determinati risultati.
Se si preferisce, invece di sorte, si può parlare (per chi è credente) di dono di Dio, ovvero di benevolenza divina gratuita, ma in questo caso chi ne è beneficiario non se ne può assolutamente gloriare.

Sane positive sociali in campo scolastico, sociale, sanitario, scolastico potrebbero parzialmente livellare le condizioni di partenza ma non potrebbero mai annullarle e alcune condizioni favorevoli (come il DNA, le amicizie del proprio ambiente sociale, l’influsso culturale familiare) contribuirebbero sempre ad agevolare il cammino dei più rispetto ai meno fortunati.
Si potrebbe forse affermare che, anche se non è certo che ci sia del merito a raggiungere determinati risultati in condizioni di privilegio, si potrebbe però pur sempre riconoscere e premiare l’impegno di chi ha saputo mettere a frutto il talento consegnatogli gratuitamente dalla sorte o dalla grazia divina. Si potrebbe arrivare a teorizzare una meritocrazia dell’impegno.

Siamo certi che almeno l’impegno (visto come capacità di concentrare, anche con sacrificio, i propri sforzi per raggiungere un risultato degno di riconoscimento) sia il frutto autonomo di una nostra scelta?
Non sarà anche l’impegno frutto del nostro peculiare DNA, dell’educazione che abbiamo ricevuto nel nostro contesto familiare e sociale?
La maggior parte di noi conosce ragazzi capaci tranquillamente di impegnarsi in una attività e altri molto meno capaci. Se poi andiamo ad approfondire il loro contesto familiare e sociale di questi ultimi, ci rendiamo conto che è difficile per loro acquisire capacità di impegno e di sacrificio se, intorno a loro, nessuno li sprona in questa direzione o ha dato loro un esempio di vita significativo in tal senso.

Ma allora, se il merito è frutto in maggior parte della sorte o di un dono di Dio, che senso ha parlare di meritocrazia e della necessità di riconoscere i più meritevoli? Non è meglio, se si vuol essere realisti e, allo stesso tempo, equi, rinunciare ad ogni forma di valutazione e di riconoscimento sulla base del merito?

Parte 3

Che succede se rinunciamo al merito?

Rinunciare ad ogni forma di valutazione e di riconoscimento sulla base di un merito che si riconosce esistente altro non vuol dire che passare da una forma di giustizia distributiva che attribuisca a ciascuno secondo i suoi meriti (tenendo conto di alcuni trattamenti minimi non comprimibili) ad un'altra che attribuisca a ciascuno secondo i suoi bisogni.
Nessuno, in migliaia di anni di storia del genere umano, è riuscito nell’applicare integralmente, in un contesto di rispetto della libertà personale, il secondo criterio se non all’interno di singole piccole comunità o sette ad alta e condivisa tensione ideale.
Il criterio si è rivelato inapplicabile e dissolto nella misura in cui la dimensione di queste comunità è cresciuta, o che la tensione ideale sia fortemente diminuita.
Vuol forse dire che qualche problema di realismo e di compatibilità esiste ed è insuperabile?

Ma la rinuncia ad ogni forma di valutazione e di riconoscimento sulla base di un merito porrebbe problemi anche di normale carattere pratico.
Come eserciteremmo, in una democrazia parlamentare, in una libera associazione, in un condominio, il nostro diritto di voto per scegliere una persona per un incarico? Dovremmo pur sempre valutare i comportamenti e le capacità dei singoli candidati e scegliere quella persona che, a nostro parere,… meriterebbe il nostro voto! Magari le daremmo il nostro voto sulla base dei criteri più disparati (l’età, il livello di istruzione, il genere, il colore dei capelli, il ceto, la residenza…) ma, in ogni caso, dovremmo darle una preferenza e decidere sul perché merita la mia preferenza rispetto ad un’altra persona!

Non vorrei essere semplicistico ma mi sembra che la soppressione tout court del “merito” come criterio di valutazione non sia realisticamente possibile.
Diversa è la soluzione sul come valutare il merito, su quali criteri utilizzare. Come già accennato in precedenza, il reale merito dovrebbe essere valutato tenendo conto di vari fattori quali la competenza personale, l’impegno individuale, il contributo al bene comune, l’importanza del lavoro in rapporto al tempo impiegato, non solo pertanto di fattori solo finanziari quali il contributo al profitto o alla crescita economica.
Solo in una ottica così allargata diventerebbe possibile avviare una concreta e giusta politica di riconoscimento del merito.
Questa ottica postula necessariamente un discernimento serio e il più possibile oggettivo e condiviso.
Se la valutazione personale non appare basata su dati oggettivi e misurabili nonché effettuata senza una sufficiente condivisione, diventa inevitabile che possa venire contestata da chi non si ritenga (magari a torto) inferiore a colui il quale è stato riconosciuto un merito maggiore.
A livello socio-politico certi fenomeni populistici vanno proprio ascritti a questa motivazione, la sensazione di essere stati trattati ingiustamente per una non corretta valutazione del merito personale.
Più sono trasparenti e pubblici sia i criteri per la valutazione del merito sia gli strumenti di misurazione dello stesso, più diventa difficile contestare le valutazione e i conseguenti riconoscimenti (fermo restando che l’unanimità non si potrà mai verificare).

Per chi vorrà approfondire l’argomento appena accettato in queste considerazioni, potrà leggere con profitto:

1.     Carlo Cottarelli – All’inferno e ritorno – Feltrinelli 2021

2.     Michael J. Sandel – La tirannia del merito – Feltrinelli 2021

Luca Ricolfi - La rivoluzione del merito - Rizzoli 2023

 

Roma 20 marzo 2023

Libertà dalla manipolazione mediatica?

 E’ possibile liberarsi della manipolazione mediatica?

Nota importante: una breve bibliografia sull’argomento oggetto delle seguenti considerazioni è indicata al termine delle stesse.

Domande senza risposta?

Al termine della mia riflessione su “meglio sapere, o saper fare o, ancora… saper essere?” (si può leggere il contenuto su https://giuseppesbardella.blogspot.com/2022/02/meglio-sapere-o-saper-fare-o-ancora.html ) mi sono chiesto se l’Intelligenza Artificiale (di seguito la chiamerò IA) potrà mai rispondere a domande come queste:
a) quale è il senso della mia vita?
b) perché sento che una mia scelta personale, nonostante si presenti ragionevole sulla base dei dati che ho raccolto, non mi soddisfa pienamente nel mio intimo?
c) quando è che mi sento pienamente realizzato?
d) che risposta do a questo mio senso del mistero, dell’infinito, del sacro, che mi trascende?
e) l’amore (sia sensuale che non), l’amicizia, l’ empatia sono solo reazioni fisico / chimiche del mio corpo o c’entra qualcos’altro?
E ancora:
f) come fare a distinguere il bene dal male?
g) quali sono i valori ai quali non potrò mai rinunciare se non al costo di non considerarmi più un uomo?
La risposta che mi do è No, molto difficilmente l’IA potrà rispondere a domande come queste (e altre potrebbero essere aggiunte da qualche lettore…), comunque sempre riguardanti l’ambito della metafisica o dell’etica.

Domande con risposta da parte dell’IA

L’IA sarà invece in grado, prima o poi, di rispondere, più velocemente e esaurientemente, dell’uomo, a domande che possano essere risolte tramite:
1) la raccolta delle informazioni necessarie;
2) il successivo loro collegamento rivolto ad elaborare una risposta logica.
Ma cosa vuol dire raccogliere informazioni, collegarle fra loro ed elaborarle in una risposta se non ragionare e, ragionando, dare una risposta toh! “ragionevole”?
Maggiore è il numero di informazioni da trovare, collegare ed elaborare, maggiore è l’efficacia della IA rispetto all’ intelligenza umana.
E’ estremamente importante da sottolineare che, a parte le domande poste nell’ambito metafisico e/o morale, tutte le altre potranno molto probabilmente ottenere risposte più rapide e precise dalla IA.
Non solo, occorre tener presente che l’IA, allo stato attuale del suo sviluppo, può anche riflettere sulle proprie risposte, farsi domande conseguenti e trovare le relative risposte. Già esistono computer che si rendono conto dei propri limiti di elaborazione e si ristrutturano in maniera autonoma (ovvero senza l’intervento umano)  per superare tali limiti (ad esempio creando nuovo software al loro interno).
Praticamente, con la solita eccezione dell’ambito metafisico / etico, già in larga parte l’area della memoria e della razionalità è stata espropriata all’uomo a favore dell’informatica e ancor più della IA.
Per restare su aspetti semplici, basta notare quante volte andiamo sui motori di ricerca per trovare una informazione ( la data di un evento storico, il nome di un personaggio…) o, ancora, quante volte facciamo una domanda, anche complessa e articolata, sui motori di ricerca e questi ultimi ci danno velocemente una risposta esatta.
Senza dimenticare il sostegno che l’IA offre allo sviluppo della scienza e di soluzioni scientifiche all’avanguardia. Alzi la mano chi è convinto che l’IA non abbia contribuito in maniera determinante alla velocità con la quale sono stati trovati i vaccini MRNA per combattere il Covid 19!

Tutto facile allora?

Se la IA risolve i problemi di ordine logico molto più velocemente ed esattamente di noi, se offre un contributo determinante allo sviluppo scientifico, vuol dire che può solo facilitarci la vita?
Forse non è proprio così.
Non sarà forse che con l’avanzare della IA nel campo della razionalità e della memoria quantitativa e meccanica, si ritrarrà lo spazio della razionalità e della memoria umana?
Quanti di noi usano già l’app “calcolatrice” del proprio smartphone per effettuare calcoli anche facili che fino a due decenni fa era normale effettuare a mente sulla base delle famigerate “tabelline” scolastiche e dell’uso delle facoltà cerebrali di computo?
Quanti di noi, per andare in automobile in un posto lontano o anche vicino ma sconosciuto sono ancora soliti andare a cercare questa location su mappe cartacee o (e qui già entra in campo l’informatica) su google maps o app similari invece di affidarsi direttamente al “navigatore” installato sulla propria autovettura o sul proprio smartphone?
Quanti di noi, per scegliere o acquistare una automobile o una casa (o qualsiasi altro oggetto di valore), si affidano ad un programma software (ad esempio, nella maniera più semplice, un foglio Excel approntato da noi stessi o, meglio, già predisposto) nel quale inserire (o trovare già inseriti) i criteri per orientare la scelta tra le diverse alternative (ad esempio, nel caso di una automobile, la casa di produzione, la velocità, il consumo, il tipo di energia che usa, il cambio ecc.) dando a ciascun criterio un peso per giungere ad una valutazione ponderata della scelta fra le diverse alternative? Ci siamo chiesti come avremmo fatto due decenni fa e come molti noi ancora fanno? Forse avremmo usato la nostra capacità di memoria e di ragionamento! Magari avremmo attivato i nostri amici e parenti, ci saremmo consultati con loro invece che… con il computer!
Certo, l’informatica in generale e, più in particolare l’IA sta riducendo i tempi di elaborazione delle nostre scelte personali; ma sta anche riducendo i tempi trascorsi ad utilizzare le nostre facoltà cerebrali e, attenzione! non sta forse atrofizzando, a causa del loro non uso, parte di tali facoltà cerebrali?
E ancora, non sta forse diminuendo la nostra capacità di socializzazione, l’attitudine ad attivare ed a consolidare costruttivi rapporti interpersonali? Sarebbe interessante chiedere, su questo aspetto, il parere di quanti stanno già spendendo molto del loro tempo di lavoro in smart-working.
Fra dieci anni saremo ancora in grado fare un calcolo semplice senza usare l’app “calcolatrice”, andare in un luogo lontano sulla base di una mappa rinunciando all’uso del “navigatore”, fare scelte personali di acquisto senza ricorrere all’aiuto dell’informatica, uscire di casa per incontrare fisicamente gli amici e/o i colleghi di lavoro?
Ma, soprattutto, saremo capaci di fare scelte personali o l’IA le farà in effetti al posto nostro illudendoci del contrario?
Questo è il grosso rischio, più l’IA aumenta il suo spazio nell’ambito della realtà materiale suscettibile di razionalizzazione, più diminuisce nello stesso ambito lo spazio riservato all’uomo e alla sua intelligenza. 

Una umanità teleguidata?

Se l’attività di analisi di dati, di loro valutazione, di scelta dell’opzione migliore è svolta in maniera più veloce ed efficace da parte dell’IA che da parte dell’uomo,  non potrebbe accadere di trovarsi di fronte ad una totale resa dell’uomo nell’ambito delle realtà fisiche e materiali e ad un suo rifugiarsi nell’ambito di quelle più intime o di quelle spirituali?
Non potremmo assistere ad una umanità teleguidata in toto da un superpotere dell’IA tramite lo strumento della manipolazione mediatica?
Se l’IA è in grado di conoscere tutto di noi stessi (dati personali, preferenze di ogni tipo, capacità di spesa, simpatie politiche…) cosa potrebbe impedirle di usare queste informazioni per dirigere la nostra vita in una direzione e verso obiettivi propri dei pochi che riescono a governare l’IA? Non abbiamo già avuto esempi di come la manipolazione mediatica riesca ad influenzare scelte elettorali (gli esempi abbondano) o scelte collettive di consumo (addirittura diversificando i prezzi sulla base della capacità individuale di spesa e della propensione al consumo)?
L’IA non potrebbe essere lo strumento per attuare, da parte di pochi, una dittatura informatica tramite la manipolazione mediatica?
Ritenete che si tratti di domande puramente teoriche, di astruserie di persone che si divertono con elucubrazioni mentali?
Forse chi avrà voglia di leggere i testi citati nella piccola bibliografia indicata alla fine di queste considerazioni, potrebbe avere l’opportunità di condividere questo timore.

Come imporre una dittatura informatica?

Quale potrebbe essere una strategia per creare questa situazione nella quale, attraverso un uso spregiudicato (ma mirato…) della IA si possa pervenire ad influenzare pesantemente il comportamento di milioni di persone?
Come pervenire a instaurare quella che più sopra abbiamo definito una “dittatura informatica”?

La strategia probabilmente si dovrebbe strutturare attraverso tre precise serie di azioni.

1.     In primo luogo la raccolta di dati.
Occorre che vengano reperiti, tracciati e quindi raccolti (al fine di poterli elaborare) i dati personali del maggior numero possibile di persone, generalità individuali (data di nascita, residenza, stato civile, situazione familiare), preferenze di consumo, disponibilità finanziarie, simpatie politiche, tipo e qualità delle amicizie…
Si giungono così a creare innumerevoli (miliardi?) di profili individuali e a catalogare e classificare tali profili in blocchi che comprendano profili con caratteristiche abbastanza omogenee fra di loro.

2.     In secondo luogo la costruzione e diffusione di quelle che semplicisticamente vengono definite “fake news”.
In realtà non si tratta di costruire e diffondere notizie interamente false, bensì anche notizie parzialmente false oppure di bloccare la diffusione di notizie vere ma che potrebbero far aprire gli occhi su precedenti o contemporanee informazioni false.
E’ una vera e propria azione di falsificazione delle realtà trasmessa con una carica psicologica tale da restare impressa, più che nella parte cerebrale, in quella emotiva, nella cosiddetta “pancia” delle persone[1].

3.     In terzo luogo la creazione di nuovi paradigmi, ovvero nuovi schemi di riferimento mentali.
Tutti noi usiamo questi schemi, ovvero facciamo (in maniera pressoché automatica) una ricerca veloce nella nostra memoria per ricordare come ci siamo comportati in un certo frangente similare e tendiamo a ripetere quel comportamento, particolarmente se quel tipo di comportamento ci ha permesso di conseguire risultati positivi (ci diciamo internamente “ha funzionato bene”
Ogni volta in più che implementiamo quello stesso comportamento tendiamo, con questa continua ripetizione, a consolidare un preciso schema di riferimento.
Può però capitare che quel certo comportamento, che più volte ha funzionato in maniera ottima, dimostri la sua inattitudine a “funzionare” in una situazione che ci pareva uguale ad altre verificatesi in precedenza e che invece era solo apparentemente uguale ma, in effetti alquanto diversa.
E’ quello che accade allorché un paradigma, uno schema di riferimento mentale, si trasforma in una “distorsione cognitiva”, ovvero pensiamo di conoscere una determinata situazione, mentre in effetti la situazione è diversa.
Sulla base delle informazioni in nostro possesso “leggiamo” una situazione in un determinato modo e applichiamo a quella situazione uno schema di riferimento che, nelle volte precedenti, ha funzionato benissimo sfruttando al meglio a nostro favore le potenzialità offerta da quel particolare contesto.
Che accade però se le informazioni che abbiamo raccolto non sono vere o, peggio, sono state falsificate da altri proprio per modificare il nostro comportamento? Accade che il nostro comportamento, implementato in base una visione distorta della realtà, risulta inadeguato agli scopi prefissi.

Ricapitolando i punti precedenti, possiamo dedurre che una “entità” (politica o economica), che sia pienamente a conoscenza delle nostre caratteristiche personali (peculiarità fisiche, dati logistici, familiari e finanziari, preferenze di gusti, opinioni culturali e politiche…) può, inviandoci false informazioni, attivare in noi determinate distorsioni cognitive e condizionare pesantemente il nostro comportamento senza che noi ne siamo consapevoli.
Ma può una “entità” essere in grado di fare questo a livello mondiale, può raccogliere i dati di miliardi di persone, elaborarli creando profili sia personali che diversificati per tipologia di persone, può mirare e veicolare le informazioni false in maniera da differenziare le stesse in funzione delle diverse persone e delle diverse tipologie, può praticamente orientare il comportamento del mondo intero?
Non so se già questo sia possibile ma certamente lo sviluppo della IA lo renderà possibile. Sarà invero possibile imporre una “dittatura informatica” a livello globale attraverso la manipolazione mediatica delle menti delle persone.

Come difenderci?

Come difenderci, a livello individuale, dal rischio che la nostra mente possa essere mediaticamente manipolata e, di conseguenza, il nostro comportamento, essere condizionato e indirizzato verso fini prescelti da altri?
Quando ero poco più che ventenne e avevo in animo di fare la mia tesi di laurea sui valori della democrazia, mi capitò di leggere “I fondamenti della democrazia” di Hans Kelsen[2].
Kelsen, giurista e sociologo di rilievo mondiale, appartenente alla Scuola di Vienna, sostiene, in questo libro, che il fondamento della democrazia (o, per meglio chiamarla, della liberaldemocrazia) è la cultura del “dubbio”.
Se non ho dubbi, argomentava Kelsen, se penso di avere ragione, di possedere pertanto la “verità” su un determinato argomento, se penso, di conseguenza, che la mia verità non possa che essere sinonimo di bene sia per me che per gli altri (altrimenti non sarebbe “verità”…), quali remore dovrei avere non solo a proporla, ma addirittura ad imporla agli altri... per il loro bene?
A rifletterci, è questo il principio implicito nella dottrina della maggior parte delle religioni a sostegno della loro attività missionaria. Convertire diventa sinonimo di imporre all’altro l’adesione ad una certa fede perché in tal modo realizzerà il suo bene.
Secondo Kelsen solo se mi pongo in un atteggiamento di dubbio, sono capace di presentare la mia opinione all’altro, di ascoltare serenamente la sua e, in uno spirito di ascolto reciproco ( di “dialogo”…), camminare insieme verso la ricerca della verità.
Nel corso della mia vita talvolta ho avuto la forza (perché non è facile…) di assumere questa cultura del dubbio e mi sono chiesto, in certe situazioni in cui avevo espresso una opinione o adottato un comportamento che altre volte era stato giusto; “se invece avessi torto?”, “se quello che dice il mio interlocutore fosse vero?”, “non è che sto insistendo a seguire la mia idea per ostinazione o, peggio, per pigrizia?”.
Ebbene, quando ho avuto questa forza sovente mi è capitato di cambiare la mia opinione, di accettare in tutto o, più spesso, parzialmente, quella del mio interlocutore.
Avere questa cultura del dubbio può essere il primo passo per l’acquisizione di una maggiore libertà di giudizio rispetto alle informazioni che cerchiamo e troviamo autonomamente o che ci piovono addosso da altri.
Ma vivere con questa cultura del dubbio non deve sfociare nell’abbracciare uno scetticismo estremo, bensì nell’evitare di accettare acriticamente informazioni infondate e, invece, nel diventare capaci di valutarle e di discernere, nel mare di informazioni nel quale nuotiamo, quelle vere e utili da quelle false o inutili.
Una volta acquisita una sana cultura del dubbio, il passo successivo per combattere le distorsioni cognitive consiste nel saper ragionare correttamente e soprattutto nel confrontarsi costantemente con altri.
Leggere molto, leggere, con mente aperta, sia testi in linea con le nostre opinioni che testi discordanti e riportanti opinioni diverse, leggere attentamente notando come le persone articolano e motivano i loro ragionamenti, leggere acquisendo un ampio bagaglio informativo, permette di ampliare non solo le nostre informazioni ma soprattutto la nostra capacità di ragionare ed esprimere giudizi corretti.[3]
Ma non è ancora sufficiente.
Un altro e ultimo passo deve essere quello di confrontare le nostre opinioni, i nostri giudizi con quelli di persone che stimiamo (e che magari hanno opinioni e giudizi diversi) in un dialogo in cui la serenità, la sincerità, la assertività e, soprattutto, la voglia di ascoltarsi reciprocamente rappresentino caratteristiche comuni.
Coltivare sempre il dubbio, leggere (o vedere…) acquisendo il maggior numero possibile di informazioni, classificare, collegare e articolare queste ultime sulla base di ragionamenti corretti, mettere alla prova le nostre conclusioni in confronto e dialogo con amici che partono da conclusioni diverse, tutto ciò dovrebbe permettere di raggiungere un certo livello di capacità mentale e intellettiva sufficiente per riconoscere una gran parte delle informazioni false e fuorvianti e per limitare l’influenza della nostre distorsioni cognitive.
Ultima virtù da coltivare è l’umiltà, ovvero la capacità di essere consapevole che, nonostante tutti i tentativi che possiamo mettere in atto, la nostra imperfezione innata di essere umani non ci consentirà mai di essere sicuri di essere completamente liberi da potenziali manipolazioni (di qualsiasi tipo esse siano).

Roma 04/03/2022                                                                              Giuseppe Sbardella

 

Di seguito una breve bibliografia sulla intelligenza artificiale (IA)

1.     M. Tegmark “Vita 3.0”, Raffaele Cortina editore 2018

2.     L Floridi, F. Cabitza, “Intelligenza Artificiale”, Bompiani 2021

3.     L. Floridi “Il verde e il blu”, Raffaele Cortina editore 2020

S. Quintarelli “Capitalismo immateriale”, Bollati Boringhieri 2019

---

[1] E’ assodato che le emozioni negative (dolore, rabbia, antipatia…) hanno un carica tre volte superiore alle emozioni positive. Pertanto non per caso spesso le fake news sono mirate a suscitare emozioni negative.

[2] Hans Kelsen “I fondamenti della democrazia” edizioni Il Mulino 1966

[3] Quando scrivo “leggere” in effetti metto in evidenza una mia distorsione cognitiva. Per persone più giovani lo stesso effetto si può raggiungere, più che leggendo testi, “vedendo” video ferme restando le altre condizioni già esposte nel caso di lettura.

 

Accogliere, respingere... o gestire?

 Perché non vogliamo dire la VERITA'?

La ritrosia (chiamiamola così...) dei cittadini europei (inclusi gli italiani) ad accogliere ulteriori migranti dall'Africa è dettata dalla consapevolezza che, nell'attesa che essi si integrino, acquisiscano professionalità e producano reddito, rappresentano solo un peso per le finanze dei Paesi europei.

Questo vuol dire che, nel breve periodo, una accoglienza troppo vasta porta ad un impoverimento dei cittadini europei, impoverimento che cesserebbe solo nel lungo periodo allorché i migranti cominciassero a lavorare e produrre reddito, in modo da essere autonomi.

E' inutile e controproducente parlare di RAZZISMO.

Occorre invece parlare il linguaggio della verità, comprendere le paure degli europei, dire con chiarezza che le migrazioni sono un evento epocale che riguarda tutte le parti del mondo e non solo l'Europa, un evento che non è possibile bloccare se non a prezzo di esecrabili violenze.

Se in Europa la popolazione indigena diminuisce forse, insieme con politiche che agevolino la natalità, occorrerà accettare e accogliere le forze nuove dei migranti.

Occorre però essere chiari, come non si può RESPINGERLI tutti, non sarà neppure possibile ACCETTARLI tutti.

La soluzione potrebbe essere, una volta fissati criteri di accettabilità (esempio età, professionalità, zona di provenienza...) fissare delle quote a livello europeo divise per Paese ed a quelle attenersi con rigidità.

Il verbo chiave è GESTIRE il problema con realismo e concretezza. Ed è conseguenziale che gli eccessi rispetto alle quote non dovrebbero essere accettati e quindi respinti.

Immagino che adesso qualcuno idealista con la testa per aria possa accusarmi di NAZISMO perché si discriminerebbe fra migranti da accettare o meno. Replico che chi spinge verso l' accogliamo tutti spinge in effetti verso una reazione popolare che potrebbe quella sì portare al FASCISMO. 

I giovani e l'italiano.

Da un articolo del Corriere della sera del 29 giugno 2011

Tra i 495.771 candidati alla maturità di quest’anno ci saranno pure i futuri manager business development o market access director. Sognano una carriera da manager e intanto inciampano sul congiuntivo. Dicono, questi benedetti studenti, che tanto poi, sul biglietto da visita ci metteranno chief executive o un qualsiasi altro job title che fa lievitare la posizione, e quei difettucci di lingua (scritta e parlata) non si noteranno nemmeno. Gli scritti di questa Maturità 2011 sono già un ricordo e il diploma è vicino. Nelle 12.373 commissioni d’esame si sono lette miglia di pagine, saggi necessariamente brevi, si spera anche corretti.

Ma come scrivono gli studenti? Male. Lo dicono i professori, lo conferma l’Invalsi, nelle sue puntuali rilevazioni degli esiti de prove scritte, all’esame di maturità. Sul sito invalsi.it si possono leggere gli scoraggianti risultati registrati all’esame due anni fa. Diventeranno anche strateghi dibrainsworking, ma per ora, nelle loro esternazioni letterarie, la punteggiatura è latitante, la grammatica è opzionale, laconsecutio temporum, poi, non è neppure stata installata nel software cerebrale. Il risultato? Periodi contorti, lunghi e inefficaci. Gli insegnanti delle medie respingono l’accusa e passano la palla ai maestri, i quali la rimandano ai prof del liceo. Con buona pace di tutti, il giudizio dell’Invalsi è lapidario: «L’emergenza di una generazione di giovani priva di una competenza di base come quella che consiste nel padroneggiare la propria lingua madre».

L’Invalsi ha corretto 545 elaborati, relativi alla prova di italiano nell’esame di Stato dell’anno scolastico 2008-09, mette in luce la scarsa padronanza nell’uso scritto della lingua italiana dei ragazzi al termine della scuola superiore, e rileva che il voto in uscita dalla scuola secondaria di I grado è fortemente correlato ai voti ricevuti nella prova di italiano. In tutte le quattro fondamentali competenze (grammaticale, testuale, lessicale e ideativa) si registra un voto medio inferiore alla sufficienza. La valutazione del compito è espressa in quindicesimi, e un compito sufficiente deve ricevere una valutazione di almeno 10/15. Ebbene, sono stati giudicati insufficienti più della metà degli elaborati (tra il 54 e il 63 per cento a seconda della competenza presa in esame). Il voto medio attribuito ai liceali è appena al di sopra della sufficienza. Tuttavia è elevata la quota delle insufficienze nella competenza grammaticale (34 per cento) e in quella lessicale (45 per cento). E’ esigua la quota delle eccellenze. Negli istituti tecnici il voto medio non raggiunge i 9 quindicesimi. Dopo 13 anni di scuola, la gran parte dei futuri tecnici non raggiunge un livello sufficiente di padronanza della lingua italiana. Il voto medio dei ragazzi che frequentano i professionali non supera l’8; in più dell’80 per cento dei casi, le prove sono considerate insufficienti in tutte le quattro competenze.

Infine, le differenze riscontrate in uscita dalla scuola dell’obbligo tendono a riprodursi, in alcuni casi ad accentuarsi, nella scuola superiore anche se con intensità diverse per tipologia di scuola. Nei giudizi dei correttori, una valutazione di «sufficiente» in uscita dall’esame di I ciclo si associa ad un punteggio medio di 7,7, una valutazione di «buono» a un punteggio di 10,3 e 11,3 per chi ha ricevuto «ottimo». Insomma, «la scarsa padronanza della lingua italiana di chi è licenziato dalla scuola secondaria di I grado con il giudizio di «sufficiente” difficilmente può essere recuperata nella scuola superiore» Come se non bastasse, anche la calligrafia è diventata un problema: con sms, chat, cinguettii e segni vari, la scrittura a mano si fa sempre più rara. L’incapacità si sta diffondendo. Con un serio effetto collaterale: regredisce anche il pensiero. Avanza, nelle classi, un nuovo modo di scrivere, diciamo, minimalista. Il linguaggio rispecchia la complessità del pensiero? Diceva il poeta francese Nicolas Boileau: «Prima che a scrivere, imparate a pensare».

Giuseppe Tesorio
29 giugno 2011