Un grande pericolo per l'umanità dalle false notizie e dalla dittatura digitale

Lo storico israeliano Yuval Noah Harary possiede un dono straordinario per espandere il suo campo di indagine e analisi senza nubere temi coperti, mettendo i pezzi di mosaico costituiti da scatole di diversa origine: storia, biologia, neuroscienza, tecnologia...

Qual è il tema del mosaico questa volta? Il soggetto principale, da dove viene, da dove sta andando. La prova della sua capacità di diffusione, epica e sorprendente è il bestseller del libro “Sapiens: Una breve storia dell'umanità” che mostra, su 500 pagine, attraverso fasi evolutive e scoperte tecnologiche, milioni di anni di avventura: dall'aspetto del genere Homo sulla Terra e al presente, passando attraverso l'affermazione di Homo Sapiens, grazie alla sua potenza di immaginazione.

Con “Homo Deusin”, ha progettato l'analisi di ciò che si aspetta che accada in futuro, tra sogni e ansie di un mondo tecnologicamente avanzato dove può essere vissuto senza il fattore umano.

“T 21 conferenze per il XXI”, affronta i problemi più pressanti della corrente, mettendole in una prospettiva storica, per pesare il loro valore interno: manipolazione della realtà, biotecnologia, privacy, dittatura digitale, nuove forme di censura...

Harary, la falsa notizia non è un nuovo fenomeno. Ma oggi la minaccia è maggiore. Perche'?

Propaganda ha sempre prodotto false notizie. Ma in un'ora non è stato possibile diffondere storie false a miliardi. Quindi il vero pericolo di mentire e' piu' grande di prima. Ed è anche perché la falsa notizia ha un nuovo obiettivo: la ricerca dell'attenzione umana, che è l'attuale più grande battaglia, in cui molte persone sono disposti a sfruttare <x0-cells <x1 più emotivamente: paura e odio. Il pericolo è di abbattere la sfera pubblica, la nostra incapacità di avere una comunicazione normale.

False notizie e spegnere l'identità. Con i social network, è possibile cambiare. O nascondere la nostra vera identità...

Ognuno di noi ha un sacco di fantasia. E' sempre stato cosi'. Costruiamo la nostra storia individuale sulla base di fatti autobiografici, ma anche inventato elementi religiosi e culturali; libri o film di ieri.

Oggi Facebook e Instagram; e i social network in generale hanno per la prima volta reso evidenti i nostri processi mentali: scegliere questa o quella foto per postare, tra gli altri 1.000, è qualcosa che è accaduto solo nella nostra mente.

Ora questi processi possono essere visti da attori stranieri, ma anche dalle autorità statali che possono imparare ciò che non potevamo uscire, né dalle torture più crudeli del Medioevo. E lo facciamo con il nostro consenso! E' troppo pericoloso quando qualcuno ti conosce meglio di te stesso. Tranne per un'occasione.

Quale?

Quella di nostra madre. Le madri hanno grande potere sui loro figli perché vogliono il meglio per loro. Fino all'adolescenza, ci conoscono meglio di noi stessi. Ma se ora è il governo, o un partito che non pensa per il vostro bene, e che non importa di crescere, ma solo usando queste piattaforme, allora il pericolo è chiaro.

Siamo quasi troppo vicini a monitorare i movimenti di un individuo per 24 ore della notte. Ma la vera rivoluzione è il monitoraggio attraverso dati biometrici, ciò che accade con la pressione sanguigna, o attività cerebrale. Non e' una fantascienza, perche' stiamo sviluppando dei sensori, che sanno cosa succede ai nostri cuori e ai nostri cervelli quando guardiamo la TV.

Il Grande Fratello di Orwell. Era un regime sovietico distopi, ma ora sta trionfando nel mercato digitale dei consumatori...

Pensa a Netflix, può raccogliere questi dati per misurare il tuo impegno e altri con un personaggio, e cambiare il suo peso nella storia. E va bene. Ma se qualcuno può studiare il modo in cui reagisci a un politico, se sei acceso da una scena di sesso o violenza, allora le cose non sono buone.

Qualche tempo fa sono andato in uno dei negozi di “Guccico” a Milano, in una stanza progettata da H-farm (una piattaforma digitale di innovazione), dove un video mostra foto e scene di coppie baciare, madre con un figlio, e hai sensori che registrano piacere, imbarazzo o empatia a quei dispositivi.

Ti chiedo: Se vedi un bacio tra due uomini e non ti piace, puoi etichettarti omofobico? E se ti piace, sei gay? E non sto parlando di uno strumento del governo cinese, sto parlando di una compagnia di moda! Ora immaginiamo di essere in Iran o in Arabia Saudita, dove c'è una frase estrema sull'omosessualità. Vado a una scuola o a una caserma e dico: “Ok ragazzi, guardate questo schermo e mettete questo casco alla testa

Orwell di nuovo. Ci sarà la mente della polizia: stiamo costruendo una macchina della verità?

Si', e molto avanzato. Perché non ci dice se stiamo mentendo, ma è in grado di vedere dentro di noi i nostri desideri e le nostre paure. Questa è la base della più grande dittatura nella storia, un potere che Stalin e Hitler non hanno avuto. Ora la dittatura digitale può parlare da un lato di propaganda, e distruggerà qualsiasi individuo che si oppone al sistema.

Fantastic ci aveva avvertiti. Ma alcuni incubi ieri, sembrano sogni oggi...

Oggi la fantascienza ha un grosso problema. Sta confondendo l'intelligenza artificiale con la coscienza, umanizzando i robot. Ed è dannoso perché oggi la fantascienza è il canale attraverso il quale molte persone imparano notizie tecnologiche.

Ma è assurdo temere che robot e computer acquisiscano coscienza, e si ribellano contro di noi, perché il problema è l'opposto: ci obbediranno sempre agli umani, senza discutere, a differenza dei soldati delle persone, che possono essere demoralizzati o abbandonati. Il vero pericolo è la cieca obbedienza dei robot a un partito politico o a un governo. Non c'è ribellione. Ci sarà solo una piccola élite umana con una grande potenza nelle sue mani.

Scrivete che gli algoritmi porteranno ad una sorta di processo decisionale automatico e disumanizzato nel regno privato e pubblico...

Avremo meno controllo sulle scelte che facciamo nella vita, su quello che studiamo, con l'uomo che ci sposeremo... proprio come un algoritmo ci dice cosa vedere in TV, o come facciamo oggi.

Andiamo in un posto in citta'.

Le principali decisioni finanziarie possono essere prese in base ad algoritmi che possono rendere i conti molto più elaborati di quelli umani, di solito gestire i fattori massimi 3-4. Un algoritmo può spiegare migliaia di fattori, che pesano solo zero punti, e sfuggire alla nostra comprensione.

Per fornire un mutuo, le banche consulteranno l'algoritmo, che elabora migliaia di fattori di rischio. Se ti rifiuta, non ti dara' una spiegazione chiara, ma un file con dozzine di fogli con calcoli dell'algoritmo. Le decisioni possono essere prese da sole.

Applicando alla politica, questa immagine diventa molto inquietante. Gli algoritmi possono mettere in pericolo la democrazia?

E' un grosso rischio. In passato, i ragionamenti di un oratore come Cicceron sono stati ascoltati, o influenzati dalla propaganda per scegliere se sostenere una guerra o no, e le persone si sono concentrate su alcuni argomenti attuali. Oggi, le opzioni più estreme possono essere ripristinate a giudizio di loghi.

E questo è qualcosa che sta già accadendo nell'esercito, dove i terroristi sono spesso giustiziati nella paura. Se uccidere o meno, la decisione non è ancora presa da un algoritmo, ma la definizione del sospettato come terrorista è. Almeno negli Stati Uniti e in Israele, questo viene fatto attraverso algoritmi basati sul modello di comportamento di una persona che viene monitorato sulla base di informazioni scambiate e dei suoi contatti sospetti. Un sacco di dati che le persone non possono elaborare.

Sei un fan di “Black Mirror”. In un episodio della prima serie, immaginare l'esistenza di robot artificialmente intelligenti con cui è possibile impegnarsi in relazioni sessuali. Cosa succede a Homo sapiens se la gente va da sola con i robot?

L'intelligenza artificiale non ha bisogno di forme umane, come mostra chiaramente il film “Her” (It). Altri film si sbagliano quando sono robot antropomorfi. L'auto che si guida non ha bisogno dell'aiuto del conducente. L'unica area in cui la forma umana è importante è quel sesso.

Ma non ci vorrà molto. Perché il vero organo sessuale di Homo sapiens è la testa. La biotecnologia permetterà una profonda interazione a livello di piacere con qualcosa che non ha forma umana, con un collegamento biotecnologico. La pornografia e l'industria del sesso sono settori che beneficeranno maggiormente di questo progresso, ovviamente, dietro il settore militare. Ma questo ha i suoi pericoli. Ci sono luoghi in cui la visualizzazione di pagine pornografiche è ora monitorato, producendo dati che alcuni governi possono utilizzare per ricattare o punire i cittadini.

Quali mezzi abbiamo per evitare questa dittatura digitale?

Il progresso non può fermarsi, ma può e dovrebbe cambiare direzione nel modo in cui lo usiamo. E sta succedendo. I governi liberali hanno evitato un controllo sulla popolazione, come quello esistente nei regimi totalitari dell'Unione Sovietica o della Germania nazista, che erano il risultato di mezzi di comunicazione massicci e di infrastrutture moderne, ma non hanno distrutto quegli strumenti.

Dobbiamo lavorare su due livelli. Come individui, dobbiamo sviluppare una maggiore consapevolezza di noi stessi. Lo faccio attraverso la meditazione: in questo modo riduciamo il divario tra ciò che sanno di noi, e ciò che sappiamo di noi stessi.

E poi dobbiamo limitare il potere delle multinazionali e dei governi, con movimenti e partiti che hanno messo in primo piano lo sviluppo delle tecnologie, e aiutare i cittadini a proteggere dai loro sforzi nella nostra vita. Questa cosa non e' fantascienza, succedera'. Ed e' per questo che ci serve un antivirus per la biotecnologia.

Dato i vostri dubbi sul modo in cui le società sociali e i governi possono utilizzare i nostri dati, vi chiedo: vi spaventa più di una riconferma alla Casa Bianca di Trump, o una vittoria a sorpresa di Mark Zuckerberg?

Al momento, Zuckerberg non rappresenta nessuno. Se fosse stato eletto dalla maggior parte degli elettori, sarebbe un'altra storia. Tuttavia, è un problema che qualcuno che non è stato eletto per voto ha così tanto potere. Per quanto riguarda Trump, non sono un esperto nell'economia, e non so come stia governando, ma ho paura delle sue azioni sulla scena globale, del suo ritiro dalla cooperazione globale.

Se gli elettori americani sostenessero questa linea, gli Stati Uniti avrebbero rinunciato a essere il Guardiano del mondo, e quando questo ha bisogno di un leader, chi sarà diretto? Trump o Zuckerberg... avrei paura se dovessi scegliere tra i due. Spero che gli americani trovino una terza opzione. / La Lettura é world.al