Pourquoi la technologie favorise la tyrannie ?

La démonstration des démocraties libérales porte sur les idéaux de liberté et d'égalité, qui peuvent sembler être dans la première perspective auto-compréhensible et irréversible. Mais ces idéaux sont beaucoup plus fragiles que nous ne le croyons. Leur succès au XXe siècle dépendait de conditions technologiques uniques dont on peut constater qu'elles étaient éphémères.

Au cours de la deuxième décennie du XXe siècle, la libéralisation a commencé à perdre sa crédibilité. Les causes de ce changement politique sont complexes, mais elles semblent être liées aux développements technologiques actuels. La technologie qui favorise la démocratie change, et la façon dont l'intelligence artificielle se développe peut changer davantage.

Dans ces conditions, la démocratie libérale et l'économie de marché peuvent devenir obsolètes.

Les gens ordinaires ne peuvent en aucun cas comprendre en détail l'intelligence artificielle et la biotechnologie, mais ils peuvent penser que l'avenir est au-delà d'eux.

Au XXe siècle, les mesures se révoltaient contre l'exploitation et visaient à traduire leur rôle vital dans l'économie, dans le pouvoir politique. Les mesures craignent aujourd'hui d'être insignifiantes et visent à utiliser rapidement le pouvoir politique restant avant qu'il ne soit trop tard. La croissance de Brex et Donald Trump peut montrer une trajectoire contraire à celle des révolutions socialistes traditionnelles. Peut-être au XXe siècle, les révoltes populistes ne seront pas organisées contre une élite économique qui exploite les gens mais contre une élite économique qui n'en a plus besoin.

Mais cela peut être une bataille perdue. Les révolutions dans le domaine des technologies de l'information et de la biotechnologie en sont encore à leurs débuts et la mesure dans laquelle elles sont responsables de la crise actuelle de libéralisation est discutable. Cependant, il est indéniable qu'au cours des prochaines décennies, l'humanité sera sérieusement confrontée à ces problèmes.

La peur que les voitures chassent les gens hors du marché du travail n'est pas nouvelle et, par le passé, cette peur a entraîné une absence d'asile. Mais l'intelligence artificielle est différente des vieilles voitures. Dans le passé, les voitures rivalisaient avec les gens principalement sur les compétences manuelles. Maintenant ils commencent à rivaliser avec nous sur les compétences cognitives.

Et nous ne connaissons aucune sorte de troisième compétence au-delà du manuel et des convives dans lesquels les gens auront toujours un avantage. Pendant au moins quelques décennies, l'intelligence humaine est susceptible de dépasser l'intelligence informatique dans de nombreux domaines.

Par conséquent, comme les ordinateurs occupent de plus en plus d'emplois cognitifs, de nouveaux emplois créatifs continueront d'apparaître pour les gens. Le monde des échecs est un exemple d'où les choses peuvent aller. Pendant plusieurs années, après que l'ordinateur IBM “Deep Blue” a vaincu Gary Kasparov en 1997, les joueurs humains ont encore prospéré; l'intelligence artificielle a été utilisée pour former les compétences humaines, et les équipes composées de personnes et d'ordinateurs ont été prouvées plus supérieures que les ordinateurs jouant seuls.

Ces dernières années, cependant, les ordinateurs sont devenus si bons aux échecs que leurs associés humains ont perdu leur valeur et pourraient bientôt devenir complètement insignifiants. Ce qui se passe avec les échecs aujourd'hui peut se produire même avec la coopération humaine avec les ordinateurs dans l'ordre public, la médecine, la banque, et beaucoup d'autres domaines.

Et alors que beaucoup de gens perdent leur valeur économique, très bientôt ils peuvent perdre leur force politique. Les mêmes technologies qui peuvent rendre des milliards de personnes économiquement insignifiantes peuvent faciliter la surveillance et le contrôle.

Il effraie beaucoup de gens parce qu'ils ne croient pas qu'il peut toujours rester obéissant. Mais il n'y a aucune raison particulière de croire qu'il développera la conscience autant qu'il deviendra intelligent. Au lieu de cela, nous devons craindre Dieu, car nous pouvons toujours obéir à ses maîtres humains, et nous ne nous rebellerons jamais contre eux.

Regardez la surveillance. De nombreux pays du monde entier, dont certaines démocraties, sont engagés dans la mise en place de systèmes de surveillance sans précédent. Par exemple, Israël est un chef de file dans le domaine de la technologie de surveillance, et il a construit le modèle de la côte ouest d'un régime de surveillance totale.

Maintenant, chaque fois que les Palestiniens passent un appel téléphonique, postent quelque chose sur Facebook ou voyagent de ville en ville, ils sont susceptibles d'être surveillés par des microphones, des caméras, des craintes ou des espions israéliens. Les algorithmes analysent les données recueillies, aidant les forces de sécurité israéliennes à identifier et neutraliser les menaces envisagées.

Les Palestiniens peuvent gérer plusieurs villes et villages de la côte ouest, mais les Israélites commandent le ciel, les ondes aériennes et le cyberespace. Ainsi, très peu de soldats israéliens contrôlent effectivement environ 2,5 millions de Palestiniens vivant sur la côte ouest.

Ce que les Palestiniens vivent aujourd'hui sur la côte ouest n'est peut-être qu'un premier exemple de ce que des milliards de personnes vont finalement vivre sur toute la planète.

À la fin du XXe siècle, les démocraties dépassaient généralement les dictatures, car elles étaient beaucoup plus capables de traiter l'information. Nous avons tendance à considérer le conflit entre démocratie et dictature comme un conflit entre deux systèmes éthiques différents, mais en fait c'est un conflit entre deux systèmes informatiques différents.

La démocratie répartit le pouvoir de traiter l'information et de prendre des décisions entre de nombreuses personnes et institutions, tandis que la dictature se concentre sur l'information et le pouvoir dans un seul pays. Bientôt, cependant, l'intelligence artificielle peut basculer les balances dans la direction opposée.

Bien sûr, de nouvelles technologies continueront d'apparaître, et certaines peuvent encourager la distribution, et non la concentration de l'information et du pouvoir. “Blockchain”

et les cryptodollars, actuellement décrits comme un contrepoids possible à la puissance centralisée.

Mais elle est encore à son stade embryonnaire, et on ne sait pas si elle peut contrebalancer les tendances centralisantes de l'intelligence artificielle. Rappelez-vous que même l'Internet à ses débuts a été promu comme un <x0ilac“, qui garderait les gens libres de tous les systèmes centralisés, mais est maintenant prêt à rendre l'autorité centralisée plus puissante que jamais.

Que devrions-nous faire ? Pour commencer, nous devons accorder une priorité beaucoup plus élevée à la compréhension du mécanisme du fonctionnement de l'esprit humain, en particulier de la façon dont notre sagesse et notre compassion peuvent être cultivées. Si nous investissons trop dans l'IA, et très peu dans le développement de l'esprit humain, l'intelligence artificielle hautement sophistiquée des ordinateurs, ne peut que servir à renforcer la stupidité naturelle des humains, et à favoriser nos pires impulsions, parmi lesquelles l'avidité et la haine.

Pour éviter un tel résultat, pour chaque dollar et chaque minute que nous investissons dans l'amélioration de l'IA, il serait sage d'investir en un dollar et une minute dans l'exploration et le développement de la conscience humaine. En attendant, plus urgent, nous devons fixer la propriété des données.

Dans les temps anciens, la richesse la plus importante était la terre; dans les temps modernes, les machines et les usines; tandis qu'au XXe siècle, les données et la politique seront une lutte pour contrôler le flux de données. La course à la collecte de données a commencé, et est dirigée par des géants de la technologie comme Google et Facebook aux États-Unis et Baidu et Tencent en Chine.

Jusqu'à présent, bon nombre de ces sociétés ont agi comme “Ils attirent notre attention, nous donnant des informations, des services et des divertissements gratuits, et ensuite tournent notre attention vers les annonceurs.

Cependant, leur véritable entreprise n'est pas seulement la vente de publicité. Au contraire, en attirant notre attention, ils parviennent à recueillir de grandes quantités de données sur nous, qui valent plus que tout revenu commercial. Nous ne sommes pas des clients, mais leur produit. Les gens ordinaires auront beaucoup de mal à résister à ce processus.

Note: Cet article est adapté du livre de Juval Noah Harari, “21 Permissions pour le XXI-518x1>.

Prise avec des coupes de “L'Atlantique” /Bota. Choisir un répertoire de travail