Un gran peligro para la humanidad de noticias falsas y dictadura digital

El historiador israelí Yuval Noah Harary posee un regalo extraordinario para expandir su campo de investigación y análisis sin enmascarar temas cubiertos, poniendo las piezas de mosaico compuestas de cajas de varios orígenes: historia, biología, neurociencia, tecnología...

¿Cuál es el tema del mosaico esta vez? El tema principal, hombre: de donde viene, de donde va. Evidencia de su capacidad difundida, épica y asombrosa es el bestseller del libro Sapiens: Una breve historia de la humanidad cumplidax1 hilo que muestra, en 500 páginas, a través de etapas evolutivas y descubrimientos tecnológicos, millones de años de aventura: desde la aparición del género Homo en la Tierra y hasta el presente, pasando por la afirmación de Homo Sapiens, gracias a su poder de imaginación.

Con <x0 ConfíaHomo Deusinciendox1⁄4], diseñó el análisis de lo que se espera que ocurra en el futuro, entre sueños y ansiedades de un mundo tecnológicamente avanzado donde se puede vivir sin el factor humano.

Se trata de los problemas más apremiantes de la actualidad, poniéndolos en una perspectiva histórica, para pesar su valor interno: manipulación de la realidad, biotecnología, privacidad, dictadura digital, nuevas formas de censura...

Harary, las noticias falsas no son un nuevo fenómeno. Pero hoy la amenaza es mayor. ¿Por qué?

Propaganda siempre ha producido noticias falsas. Pero a la vez no era posible difundir historias falsas a miles de millones en una hora. Así que el verdadero peligro de mentir es mayor que antes. Y eso también es porque las noticias falsas tienen un nuevo objetivo: la búsqueda de la atención humana, que es la batalla más grande actual, donde muchas personas están dispuestas a explotar יx0-células obtenidas más emocionalmente: el miedo y el odio. El peligro es romper la esfera pública, nuestra incapacidad para tener comunicación normal.

Falsas noticias e identidad extinguida. Con redes sociales, es posible cambiar. O esconder nuestra verdadera identidad...

La identidad de cada uno de nosotros tiene mucha ficción. Siempre ha sido así. Construimos nuestra historia individual sobre la base de hechos autobiográficos, pero también inventamos elementos religiosos y culturales; libros o películas ayer.

Hoy Facebook e Instagram; y las redes sociales en general han hecho evidentes por primera vez nuestros procesos mentales: elegir esta o esa foto para publicar, entre otros 1.000, es algo que sólo sucedió en nuestra mente.

Ahora estos procesos pueden ser vistos por actores extranjeros, pero incluso las autoridades estatales que pueden aprender de lo que no pudimos salir, ni la tortura más cruel de la Edad Media. ¡Y hacemos esto con nuestro consentimiento! Es demasiado peligroso cuando alguien te conoce mejor de lo que te conoces. Excepto por una oportunidad.

¿Cuál?

De nuestra madre. Las madres tienen un gran poder sobre sus hijos porque quieren lo mejor para ellos. Hasta la adolescencia, nos conocen mejor que nosotros mismos. Pero si ahora es el gobierno, o un partido que no piensa por su propio bien, y eso no le importa crecer pero sólo usar estas plataformas, entonces el peligro es claro.

Estamos casi demasiado cerca de monitorear los movimientos de un individuo durante 24 horas de la noche. Pero la revolución real está monitoreando a través de datos biométricos, lo que sucede con la presión arterial o la actividad cerebral. No es una ciencia ficción, porque estamos desarrollando sensores, que saben lo que le pasa a nuestros corazones y cerebros cuando vemos la televisión.

El Gran Hermano de Orwell. Era un régimen soviético distopi, pero ahora está triunfando en el mercado digital de los consumidores...

Piensa en Netflix, puede recopilar estos datos para medir tu compromiso y otros con un personaje, y cambiar su peso en la historia. Y está bien. Pero si alguien puede estudiar la forma en que reaccionas a un político, si te excita una escena de sexo o violencia, entonces las cosas no son buenas.

Hace algún tiempo fui a una de las tiendas de <x0 títuloGuccico correspondióx1⁄4e en Milán, a una habitación diseñada por H-farm (una plataforma digital de innovación), donde un video muestra fotos y escenas de parejas besando, madre con un hijo, y tienes sensores que registran placer, vergüenza o empatía a esos dispositivos.

Le pregunto: Si ves un beso entre dos hombres y no te gusta, ¿puedes etiquetarte homofóbico? Y si quieres, ¿eres gay? ¡Y no estoy hablando de un instrumento del gobierno chino, estoy hablando de una compañía de moda! Ahora imaginemos que estamos en Irán o Arabia Saudita, donde hay una frase extrema sobre la homosexualidad. Voy a una escuela o a un cuartel y digo: Bien chicos, miren esta pantalla y pongan este casco a su cabeza

Orwell otra vez. Habrá mente policial: ¿Estamos construyendo una máquina de la verdad?

Sí, y muy avanzado. Porque no nos dice si estamos mintiendo, pero es capaz de ver dentro de nosotros nuestros deseos y temores. Esta es la base de la mayor dictadura de la historia, un poder que Stalin y Hitler no tenían. Ahora la dictadura digital puede hablar por una parte por propaganda, y aplastará a cualquier individuo que se oponga al sistema.

Fantástico nos había advertido. Pero algunas pesadillas ayer, parecen sueños hoy...

Hoy la ciencia ficción tiene un gran problema. Está confundiendo inteligencia artificial con conciencia, humanizando robots. Y es dañino porque hoy la ciencia ficción es el canal a través del cual mucha gente aprende noticias tecnológicas.

Pero es absurdo temer que los robots y las computadoras obtengan conciencia, y se rebelen contra nosotros, porque el problema es lo contrario: siempre nos obedecen a los humanos, sin discutir, a diferencia de los soldados de la gente, que pueden ser desmoralizados o abandonados. El peligro real es la obediencia ciega de los robots a un partido político o a un gobierno. No hay rebelión. Sólo habrá una pequeña élite humana con un gran poder en sus manos.

Usted escribe que algoritmos conducirán a una clase de toma de decisiones automáticas y deshumanizadas en el ámbito privado y público...

Vamos a tener menos control sobre las decisiones que tomamos en la vida, sobre lo que estudiamos, con el hombre que nos vamos a casar... como un algoritmo nos dice qué ver en la televisión, o cómo lo hacemos hoy.

Vayamos a un lugar en la ciudad.

Se pueden tomar decisiones financieras importantes basadas en algoritmos que pueden hacer cuentas mucho más elaboradas que las humanas, generalmente manejando los máximos 3-4 factores. Un algoritmo puede explicar miles de factores, que pesan sólo cero puntos, y escapar de nuestro entendimiento.

Para proporcionar una hipoteca, los bancos consultarán el algoritmo, que procesa miles de factores de riesgo. Si te rechaza, no te dará una explicación clara, pero un archivo con docenas de hojas con cálculos de algoritmos. Las decisiones pueden tomarse por su cuenta.

Aplicando a la política, esta imagen se vuelve muy inquietante. ¿Pueden los algoritmos poner en peligro la democracia?

Es un gran riesgo. En el pasado, los razonamientos de un orador como Cicceron fueron escuchados, o influenciados por la propaganda para elegir si apoyar una guerra o no, y la gente se centró en algunos temas actuales. Hoy, las opciones más extremas pueden ser restauradas al juicio de los logotipos.

Y esto es algo que ya está sucediendo en el ejército, donde los terroristas a menudo son ejecutados con miedo. Ya sea para matar o no, la decisión todavía no es tomada por un algoritmo, pero la definición del sospechoso como terrorista es. Al menos en EE.UU. e Israel, esto se hace a través de algoritmos basados en el patrón de comportamiento de una persona que se supervisa sobre la base de información intercambiada y sus contactos sospechosos. Muchos datos que la gente no puede procesar.

Usted es un fan de <x0 confianzaBlack Mirror fielx1⁄4. En un episodio de la primera serie, imagine la existencia de robots artificialmente inteligentes con los que es posible entablar relaciones sexuales. ¿Qué le pasa a Homo sapiens si la gente va sola con robots?

La inteligencia artificial no necesita formas humanas, como muestra claramente la película (It). Otras películas están mal cuando son robots antropomorfos. El auto que conduce no necesita la ayuda del conductor. La única área en la que la forma humana es importante es ese sexo.

Pero no tardará mucho. Porque el verdadero órgano sexual de Homo sapiens es la cabeza. La biotecnología permitirá una profunda interacción a nivel de placer con algo fuera de nosotros que no tiene forma humana, con una conexión biotecnológica. Pornografía y la industria del sexo son sectores que se beneficiarán más de este progreso, por supuesto, detrás del sector militar. Pero esto tiene sus peligros. Hay lugares donde se vigila la visualización de páginas pornoográficas, produciendo datos que algunos gobiernos pueden utilizar para chantajear o castigar a los ciudadanos.

¿Qué significa que tenemos para evitar esta dictadura digital?

El progreso no puede parar, pero puede y debe cambiar de dirección en la forma en que lo utilizamos. Y esto está pasando. Los gobiernos liberales han evitado un control sobre la población, como el existente en regímenes totalitarios en la Unión Soviética o Alemania nazi, que fueron el resultado de medios masivos de comunicación e infraestructura moderna, pero no destruyeron esas herramientas.

Tenemos que trabajar en dos niveles. Como individuos, necesitamos desarrollar una mayor conciencia de nosotros mismos. Lo hago a través de la meditación: de esta manera reducimos la brecha entre lo que saben de nosotros, y lo que sabemos de nosotros mismos.

Y entonces tenemos que limitar el poder de las multinacionales y los gobiernos, con movimientos y partidos que ponen el desarrollo de las tecnologías en la parte superior de la agenda, y ayudar al ciudadano a proteger de sus esfuerzos en nuestras vidas. Esta cosa no es ciencia ficción, va a suceder. Y por eso necesitamos un antivirus biotecnológico.

Dada sus dudas sobre la forma en que las sociedades sociales y los gobiernos pueden utilizar nuestros datos, les pregunto: ¿te asusta más una reconfirmación en la Casa Blanca de Trump, o una victoria sorpresa de Mark Zuckerberg?

De momento, Zuckerberg no representa a nadie. Si fuera elegido por la mayoría de los votantes, sería otra historia. Sin embargo, es un problema que alguien que no ha sido elegido por voto tiene tanto poder. En cuanto a Trump, no soy un experto en la economía, y no sé cómo está gobernando, pero tengo miedo de sus acciones en la escena global, su retirada de la cooperación global.

Si los votantes estadounidenses apoyaran esta línea, Estados Unidos renunciaría a ser el Guardián del mundo, y cuando éste necesita un líder, ¿quién se dirigirá? Trump o Zuckerberg estaría asustado si tuviera que elegir entre los dos. Espero que los americanos encuentren una tercera opción. / La Lettura é world.al