“ Come i nuovi nati biologici, gli algoritmi bambini imparano individuando modelli nei dati a cui hanno accesso “.

“Nexus”, l’ultimo libro di Yuval Noah Harari si interroga sul potenziale impatto della cosiddetta Intelligenza Artificiale sulla nostra vita, entro un breve futuro.

L’autore sente la necessità di indagare a fondo le implicazioni del sorgere di una nuova tecnologia, che, per la prima volta nella storia umana, promette di non essere più, solo uno strumento, il cui uso ( positivo o negativo ), dipenda da decisioni comunque umane, bensì, promette d’essere un “agente”, capace di assumere autonome decisioni, anche quando inserito entro una rete informativa umana.

Per di più, la potenza di questa nuova tecnologia, sembra essere tale da sconvolgere le reti informative umane, che potrebbero essere colpite e modificate in profondità da una “intelligenza aliena”; non umana e quindi forse a noi incomprensibile, per assenza d’esperienza e per diversità di codici e riferimenti di conoscenza.

Nel film “Matrix” del 1999, compare un riferimento, fantasioso certo, all’Intelligenza Artificiale:

“Questo è il mondo che tu conosci. Il mondo com’era alla fine XX secolo. E che ora esiste solo in quanto parte di una neuro-simulazione interattiva che noi chiamiamo – Matrix – … Quello che sappiamo per certo, è che un bel giorno, all’inizio del XXI secolo, l’umanità intera si ritrovò unita all’insegna dei festeggiamenti. Grande fu la meraviglia per la nostra magnificenza, mentre davamo alla luce I.A… Intelligenza Artificiale….”

Nell’immaginario popolare l’Intelligenza Artificiale potrebbe costruire un mondo fittizio, da lei dominato. E la specie umana, ove sopravvivesse, sarebbe sottomessa all’Intelligenza Artificiale.

Il libro di Harari, se volessimo in estrema sintesi semplificare, è una indagine sulla sostanza vera che permea gli attuali sviluppi dell’Intelligenza Artificiale; una riflessione sugli scenari possibili che questa inedita tecnologia “autonomamente agente” potrebbe innescare; e una indicazione delle strade possibili che l’umanità ha, sin da ora, dinanzi a sé, per scongiurare ogni scenario catastrofico, a partire da una analisi storica del funzionamento, sin qui, delle umane civiltà.

“Nexus” segnala inoltre, e spiega nelle sue conseguenze, un dato assolutamente interessante: le dinamiche specifiche di una Intelligenza Artificiale, si prestano, per loro natura, ad essere governate molto più agevolmente da un regime dittatoriale o autoritario ( e/o da movimenti populisti e autoritari ), piuttosto che da una Democrazia ( e/o da movimenti democratici ).

Se posso permettermi, il limite del lavoro di Harari, consiste essenzialmente nella sua scelta di affrontare il tema, personificando l’Intelligenza Artificiale, di cui sono sottolineati, giustamente, tutti gli aspetti di pericolosità sociale, politica, economica, militare, enucleando i tratti costitutivi di un ente, la cui forma, i cui contenuti, le cui relazioni, sembrano essere però, già date: una sorta di Moloch imperscrutabile nato già perfettamente formato, e che occorrerebbe solo limitare ed educare.

Non si pongono domande relativamente al perché, e funzionalmente a quale sistema, l’Intelligenza Artificiale, le cui applicazioni iniziamo a vedere, sia strutturata in maniera tale da poter costituire un pericolo, forse mortale, per l’intera umanità.

E’ come se Harari scegliesse di fissare la caratteristica primaria dell’Intelligenza Artificiale, in quel nucleo algoritmico capace di costruire ordine e modelli di funzionamento rigidi, dentro il caos dei dati di informazione acquisiti, e di alimentare sé stesso in modi e forme che noi umani potremmo non comprendere, fino alla totale propria autonomia dall’umano, nel motivare e compiere le proprie azioni.

E da questa caratteristica sviluppasse poi una sorta di antropologia dell’Intelligenza Artificiale, aprioristicamente pensata come un costrutto già completo di tutte le sue facoltà, la cui essenza è indiscutibile, senza però indagarne la nascita.

Le civiltà umane, si sono sviluppate, ed evolute, dotandosi di strumenti adatti all’ambiente che le circondavano, per agire su di esso, anche con finalità utilitaristiche.

Un tempo, nelle varie città portuali, potevano osservarsi differenti tipi di velature, ognuna delle quali immaginata e costruita per entrare in relazione col proprio specifico ambiente; ed ognuna delle quali, costruita ed immaginata per servire ad un preciso scopo: il trasporto di uomini, o quello di merci, ad esempio.

Per dirla in termini un po’ più generali, anche se non esaustivi, le tecnologie che gli umani hanno costruito o inventato, nel tempo, sono state e sono funzionali ad un loro specifico ambiente di riferimento, e tese ad uno specifico fine e ( tendenzialmente ), completamente sotto il controllo umano in ogni loro variante; la tecnologia di Intelligenza Artificiale, invece, per le sue specifiche qualità, sarebbe in grado di sottrarsi al controllo umano ( e anzi l’umano, immaginando di rendere più facili ed efficienti certi processi, sembrerebbe avere tutto l’interesse a delegare funzioni e scelte all’Intelligenza Artificiale, favorendone i processi di autonomizzazione anche quando potenzialmente letali ).

“ Quando si tratta di unire la gente, la finzione gode di due vantaggi intrinseci rispetto alla verità. In primo luogo, la finzione può essere semplificata a piacimento, mentre la verità tende ad essere complicata, perché la realtà che dovrebbe rappresentare è complicata. In secondo luogo, la verità è spesso dolorosa e sconvolgente, e se cerchiamo di renderla più confortante e lusinghiera, non sarà più verità. Al contrario, la finzione, è molto malleabile”.

L’Intelligenza Artificiale è perfetta per la costruzione di “racconti” che unificano i comportamenti delle società ( burocrazie, sistemi finanziari etc. ), ma occorrerebbe essere consapevoli che si tratta di “finzioni”; di “narrazioni” riguardanti realtà intersoggettive, ma fittizie, per quanto noi possiamo conferirgli valore ( come gli Stati, ad esempio ).

Ma questa sua caratteristica, troppo facilmente, potrebbe essere usata per abbattere ogni dissenso e ogni forma di diversa “narrazione”.

Ecco allora che un sistema costruito con l’idea di individuare ordine, e modelli di comportamento efficienti ed efficaci, ed applicarli universalmente, diviene, ed è già in parte divenuto, un sistema il cui scopo primario è controllare e sopprimere le varianze percepite come inefficienti ed inefficaci, ma anche i sistemi di controllo che rallenterebbero il dispiegarsi di scelte “funzionali”; e non è un caso che i movimenti autoritari, per sabotare la Democrazia, inizino ad attaccarne ( in nome magari dell’investitura popolare ottenuta in una elezione cui partecipi magari meno del 50% del corpo elettorale ), i meccanismi di autocorrezione, a partire dai tribunali e dai media. In un contesto in cui acquisiscono sempre maggiore potere penetrante le informazioni veicolate da piattaforme social, a loro volta condizionate pesantemente dai meccanismi di funzionamento degli algoritmi, che privilegiano il coinvolgimento emotivo ( per aumentare il numero di interazioni ), piuttosto che la razionalità di scelte ed argomentazioni, ed attaccando, anche per questa via, lo stesso sapere scientifico.

Harari nel suo testo non si chiede, perché questo accada, o forse dà per scontata la risposta, il che, per la tematica proposta, rivela una lacuna d’indagine, o forse una scelta compiuta perché dare una certa risposta, implicherebbe, non solo cercare i meccanismi che consentirebbero forse di governare con minori rischi questa tecnologia, ma anche mettere in discussione proprio il sistema che l’ha generata con queste caratteristiche.

Perchè, esattamente come la diversa forma delle vele e dello scafo di una barca consente di adattare la navigazione alle specifiche caratteristiche di un determinato tratto di costa, allo stesso modo, la costruzione della Intelligenza Artificiale come la stiamo conoscendo, risponde alle esigenze specifiche di un sistema finanziario-capitalistico globale che non accetta controlli o mediazioni, neanche statuali ( aumentando le contraddizioni non governate, ma proprio generate, dalla proiezione globale di questa tecnologia, in un mondo tuttora diviso da confini e da tensioni ), ma desidera solo massimizzare il consumo ed il profitto.

E se l’Intelligenza Artificiale è nutrita di dati che rispecchiano questo obiettivo finale, non avrà ovviamente alcuna cura di questioni che sono ritenute secondarie.

Se chi sta nutrendo di dati e di schemi di comportamento l’Intelligenza Artificiale ha il problema di dover usare quantità ingenti di energia a basso costo, non avrà alcun interesse a che quella energia sia fornita da fonti non inquinanti, quando, oggi, è a più basso costo, ancora, il combustibile fossile. E forse si spiega anche così, la presenza di tanti oligarchi della tecnologia, alla cerimonia d’insediamento dell’attuale Presidente degli Stati Uniti d’America.

Per dirla in un altro modo, se s’indagasse sulle forme e sui contenuti e sulle dinamiche che stiamo insegnando ed imponendo all’Intelligenza Artificiale, scopriremmo che stiamo costruendo un sistema votato solo al controllo e alla massimizzazione del profitto, e non stiamo certo facendo incontrare un novello innocente Emile di Rousseau, con il mondo. E allora forse, più che cercare dei possibili contrappesi “a valle” della realizzazione dell’Intelligenza Artificiale, dovremmo porci il problema di intervenire “a monte”, sulle ragioni stesse della sua esistenza e sul modo in cui è conformata.

Imporre, per una via politica globale ( ed oggi il diritto internazionale è profondamente sotto attacco da parte di potenze che sono disponibili ad ascoltare solo il richiamo della forza e del profitto, e non certo la difficoltà e vischiosità delle relazioni diplomatiche internazionali ), le indicazioni che Harari fornisce, per bilanciare il potere potenzialmente distruttivo dell’Intelligenza Artificiale, significa forse immaginare una specie di prevalenza inattesa della “buona volontà”, mentre tutto invece tende a logiche militari e di dominio.

Una specie di consolante ed impraticabile utopia che immagina di ignorare i reali rapporti di potere, e di affermarsi solo in forza della propria luminosa razionalità ( quella stessa razionalità che gli algoritmi mortificano quando danno diffusione alle voci di chi è misticamente contrario alle vaccinazioni in nome di non si capisce quale verità ).

E’ giusto, indicare che si potrebbe conformare l’Intelligenza Artificiale al “Bene Comune”; è corretto preferire sistemi decentrati di Intelligenza Artificiale, a sistemi accentrati; è necessario indicare nella “reciprocità” ( se si aumenti la capacità di sorveglianza sugli esseri umani, è giusto aumentare la sorveglianza sulle aziende e sugli Stati ), una delle caratteristiche che il sistema dovrebbe necessariamente avere; è anche essenziale che il sistema sia costruito, per dare spazio al cambiamento, ma anche alla stasi, proprio mentre i computer e le loro reti, implacabilmente, possono invece funzionare sempre.

Ma tutto questo, ove non vi siano i necessari interventi politici di governo ( a livello globale, per essere realmente utili ), resterebbe solo una utile speculazione su qualcosa che avrebbe dovuto essere, in un mondo che funziona sulla base di logiche esattamente opposte.

La verità, è che per intervenire sui rischi dell’Intelligenza Artificiale, occorrerebbe riconoscere che sono esattamente gli stessi rischi ( sempre più realtà già in essere, invero ), connessi ad un sistema capitalistico finanziario e consumistico, che combatte ogni forma di controllo ed autocontrollo; che non accetta il limite del cambiamento climatico, che prospera in una situazione in cui la stragrande maggioranza delle popolazioni è ridotta in stato servile; che non riconosce alcuna possibilità di mediazione che intacchi i propri margini di profitto e desidera che le persone siano sole di fronte al proprio imperscrutabile ed infinito potere. E che ritiene i meccanismi di funzionamento della Democrazia, inutilmente intralcianti e fastidiosi.

Per questo, il volume di Yuval Noah Harari, costituisce una preziosa guida per identificare l’esistenza di un problema assai delicato e complesso, ma soffre, e molto, quando pensa di prospettare dei cambiamenti a sistema immutato.

Una parziale delusione, per me, dopo i suoi primi tre volumi straordinari ( “Sapiens”; “Homo deus” e “Ventuno lezioni per il Ventunesimo secolo” ).