Un grand danger pour l'humanité par les fausses nouvelles et la dictature numérique

L'historien israélien Yuval Noah Harary possède un don extraordinaire pour étendre son champ d'investigation et d'analyse sans brouiller les thèmes couverts, mettant les pièces de mosaïque composées de boîtes d'origines variées : histoire, biologie, neuroscience, technologie...

Quel est le sujet de la mosaïque cette fois? Le sujet principal, l'homme: d'où il vient, d'où il va. Preuve de sa propagation, épique et étonnante capacité est le best-seller de livre “Sapiens : Une brève histoire de l'humanité” qui montre, sur 500 pages, à travers des étapes évolutives et des découvertes technologiques, des millions d'années d'aventure : de l'apparition du genre Homo sur Terre et jusqu'à présent, en passant par l'affirmation d'Homo Sapiens, grâce à son pouvoir d'imagination.

Avec “Homo Deusin”, il a conçu une analyse de ce qui devrait se passer à l'avenir, entre les rêves et les angoisses d'un monde technologiquement avancé où il peut être vécu sans le facteur humain.

“T 21 conférences pour le XXI”, il aborde les problèmes les plus pressants de la actualité, les mettant dans une perspective historique, afin de peser leur valeur interne: manipulation de la réalité, biotechnologie, vie privée, dictature numérique, nouvelles formes de censure...

Harary, la fausse nouvelle n'est pas un phénomène nouveau. Mais aujourd'hui la menace est plus grande. Pourquoi ?

La propagande a toujours produit de fausses nouvelles. Mais à un moment donné, il n'a pas été possible de diffuser de fausses histoires à des milliards en une heure. Le vrai danger de mentir est donc plus grand qu'avant. Et c'est aussi parce que la fausse nouvelle a un nouveau but: la quête de l'attention humaine, qui est la plus grande bataille actuelle, où beaucoup de gens sont prêts à exploiter <x0-cells<x1 le plus émotionnellement: la peur et la haine. Le danger est de briser la sphère publique, notre incapacité à avoir une communication normale.

Faux nouvelles et extinction de l'identité. Avec les réseaux sociaux, il est possible de changer. Ou cacher notre véritable identité...

L'identité de chacun de nous a beaucoup de fiction. Ça a toujours été comme ça. Nous construisons notre histoire individuelle sur la base de faits autobiographiques, mais aussi inventé des éléments religieux et culturels; livres ou films hier.

Aujourd'hui Facebook et Instagram ; et les réseaux sociaux en général ont pour la première fois rendu évidents nos processus mentaux : choisir ceci ou cette photo pour poster, entre autres 1000, est quelque chose qui s'est passé seulement dans notre esprit.

Maintenant, ces processus peuvent être vus par des acteurs étrangers, mais même les autorités de l'État qui peuvent apprendre ce dont nous ne pouvions sortir, ni la torture la plus cruelle du Moyen Age. Et nous le faisons avec notre consentement ! C'est trop dangereux quand quelqu'un te connaît mieux que toi-même. Sauf une chance.

Lequel ?

Chez notre mère. Les mères ont un grand pouvoir sur leurs enfants parce qu'elles veulent le meilleur pour eux. Jusqu'à l'adolescence, ils nous connaissent mieux que nous. Mais si maintenant c'est le gouvernement, ou un parti qui ne pense pas pour votre propre bien, et que cela ne se soucie pas de grandir mais simplement d'utiliser ces plateformes, alors le danger est clair.

Nous sommes presque trop près de surveiller les mouvements d'un individu pendant 24 heures de la nuit. Mais la vraie révolution est la surveillance à travers des données biométriques, ce qui se passe avec la pression artérielle, ou l'activité cérébrale. Ce n'est pas une science-fiction, parce que nous développons des capteurs, qui savent ce qui arrive à nos cœurs et à nos cerveaux quand nous regardons la télé.

Le grand frère d'Orwell. C'était une dystopie du régime soviétique, mais maintenant elle triomphe sur le marché numérique des consommateurs...

Pensez à Netflix, il peut collecter ces données pour mesurer votre engagement et les autres avec un caractère, et changer son poids dans l'histoire. Et c'est bon. Mais si quelqu'un peut étudier la façon dont vous réagissez à un politicien, si vous êtes excité par une scène de sexe ou de violence, alors les choses ne sont pas bonnes.

Il y a quelque temps, je suis allé dans l'un des magasins de “Guccico” à Milan, dans une salle conçue par H-farm (une plateforme numérique d'innovation), où une vidéo montre des photos et des scènes de couples s'embrassant, mère avec un fils, et vous avez des capteurs qui enregistrent plaisir, embarras ou empathie à ces appareils.

Si tu vois un baiser entre deux hommes et que tu n'aimes pas ça, peux-tu t'étiqueter homophobe ? Et si tu veux, tu es gay ? Et je ne parle pas d'un instrument du gouvernement chinois, je parle d'une entreprise de mode ! Imaginons qu'on soit en Iran ou en Arabie Saoudite, où il y a une phrase extrême sur l'homosexualité. Je vais dans une école ou une caserne et je dis : “Regardez cet écran et mettez ce casque sur votre tête.

Orwell encore. Il y aura l'esprit policier : construisons-nous une machine de vérité ?

Oui, et très avancé. Parce qu'il ne nous dit pas si nous mentons, mais il est capable de voir en nous nos désirs et nos peurs. C'est la base de la plus grande dictature de l'histoire, un pouvoir que Staline et Hitler n'avaient pas. Maintenant, la dictature numérique peut parler d'une part par la propagande, et elle écrasera tout individu qui s'oppose au système.

Fantastique nous avait prévenus. Mais quelques cauchemars hier, ils ressemblent à des rêves aujourd'hui...

Aujourd'hui, la science-fiction a un gros problème. Elle confond l'intelligence artificielle avec la conscience, humanisant les robots. Et c'est dangereux parce qu'aujourd'hui la science-fiction est la chaîne par laquelle beaucoup de gens apprennent les nouvelles technologiques.

Mais il est absurde de craindre que les robots et les ordinateurs ne prennent conscience et se rebellent contre nous, parce que le problème est le contraire : ils nous obéiront toujours, sans disputer, contrairement aux soldats des gens, qui peuvent être démoralisés ou désertés. Le vrai danger est l'obéissance aveugle des robots à un parti politique ou à un gouvernement. Il n'y a pas de rébellion. Il n'y aura qu'une petite élite humaine avec un grand pouvoir dans ses mains.

Vous écrivez que les algorithmes mèneront à une sorte de prise de décision automatique, déshumanisée dans le domaine privé et public...

Nous allons avoir moins de contrôle sur les choix que nous faisons dans la vie, sur ce que nous étudions, avec l'homme que nous allons nous marier... comme un algorithme nous dit quoi voir à la télé, ou comment nous faisons aujourd'hui.

Allons à un certain endroit en ville.

Les décisions financières majeures peuvent être prises sur la base d'algorithmes qui peuvent rendre les comptes beaucoup plus élaborés que les comptes humains, en gérant généralement les 3-4 facteurs maximum. Un algorithme peut expliquer des milliers de facteurs, qui ne pèsent que zéro point, et échapper à notre compréhension.

Pour fournir un prêt hypothécaire, les banques consulteront l'algorithme, qui traite des milliers de facteurs de risque. Si elle vous refuse, elle ne vous donnera pas une explication claire, mais un fichier avec des dizaines de feuilles avec des calculs d'algorithmes. Les décisions peuvent être prises seules.

Appliquée à la politique, cette image devient très inquiétante. Les algorithmes peuvent-ils mettre en danger la démocratie?

C'est un gros risque. Dans le passé, les raisonnements d'un orateur comme Cicceron ont été entendus, ou influencés par la propagande pour choisir de soutenir une guerre ou non, et les gens se sont concentrés sur quelques sujets d'actualité. Aujourd'hui, les options les plus extrêmes peuvent être restaurées au jugement des logos.

Et c'est quelque chose qui se passe déjà dans l'armée, où les terroristes sont souvent exécutés dans la peur. Que ce soit pour tuer ou non, la décision n'est pas encore prise par un algorithme, mais la définition du suspect comme terroriste l'est. Au moins aux États-Unis et en Israël, cela se fait à travers des algorithmes basés sur le comportement d'une personne qui est surveillé sur la base d'informations échangées et de ses contacts suspects. Beaucoup de données que les gens ne peuvent pas traiter.

Vous êtes fan du miroir noir “. Dans un épisode de la première série, imaginez l'existence de robots artificiellement intelligents avec lesquels il est possible de s'engager dans des relations sexuelles. Qu'arrive-t-il à Homo sapiens si les gens vont seuls avec des robots ?

L'intelligence artificielle n'a pas besoin de formes humaines, comme le montre clairement le film “. D'autres films ont tort quand ils sont des robots anthropomorphisants. La voiture elle-même n'a pas besoin de l'aide du conducteur. Le seul domaine dans lequel la forme humaine est importante est ce sexe.

Mais ça ne prendra pas longtemps. Parce que le vrai organe sexuel d'Homo sapiens est la tête. La biotechnologie permettra une interaction profonde au niveau du plaisir avec quelque chose en dehors de nous qui n'a pas de forme humaine, avec un lien de biotechnologie. La pornographie et l'industrie du sexe sont des secteurs qui bénéficieront le plus de ces progrès, bien sûr, derrière le secteur militaire. Mais cela a ses dangers. Il y a des endroits où la visualisation des pages pornographiques est maintenant surveillée, produisant des données que certains gouvernements peuvent utiliser pour faire chanter ou punir les citoyens.

Quels moyens avons-nous pour éviter cette dictature numérique?

Le progrès ne peut s'arrêter, mais il peut et doit changer d'orientation dans la façon dont nous l'utilisons. Et ça arrive. Les gouvernements libéraux ont évité un contrôle sur la population, comme celui existant dans les régimes totalitaires de l'Union soviétique ou de l'Allemagne nazie, qui étaient le résultat de moyens de communication massifs et d'infrastructures modernes, mais ils n'ont pas détruit ces outils.

Nous devons travailler sur deux niveaux. En tant qu'individus, nous devons nous sensibiliser davantage à nous-mêmes. Je le fais par la méditation: de cette façon nous réduisons l'écart entre ce qu'ils savent de nous, et ce que nous savons de nous-mêmes.

Et puis, nous devons limiter le pouvoir des multinationales et des gouvernements, avec des mouvements et des partis qui placent le développement des technologies au premier rang des priorités et aident les citoyens à se protéger de leurs efforts dans notre vie. Ce n'est pas de la science-fiction, ça va arriver. C'est pourquoi nous avons besoin d'un antivirus biotechnologique.

Compte tenu de vos doutes sur la façon dont les sociétés sociales et les gouvernements peuvent utiliser nos données, je vous pose la question suivante : vous effraie-t-elle davantage d'une reconfirmation à la Maison Blanche de Trump, ou d'une victoire surprise de Mark Zuckerberg ?

Pour le moment, Zuckerberg ne représente personne. S'il était élu par la plupart des électeurs, ce serait une autre histoire. Cependant, il est un problème que quelqu'un qui n'a pas été élu par vote a tellement de pouvoir. Quant à Trump, je ne suis pas un expert en économie, et je ne sais pas comment il gouverne, mais j'ai peur de ses actions sur la scène mondiale, de son retrait de la coopération mondiale.

Si les électeurs américains soutenaient cette ligne, les États-Unis renonceraient à être le Gardien du monde, et quand celui-ci aura besoin d'un leader, qui se dirigera ? Trump ou Zuckerberg... j'aurais peur si je devais choisir entre les deux. J'espère que les Américains trouveront une troisième option. / La Lettura é world.al