¿La humanidad está en peligro?

Pero había algo completamente diferente sobre los modelos de Google, Tesla y General Motors, demostrando el aumento del poder de la inteligencia artificial. El coche de Navia no siguió las instrucciones de un ingeniero o un programador, pero confiaba plenamente en un algoritmo que había aprendido a conducir observando a un ser humano. El diseño de una máquina de este tipo es una empresa extraordinaria pero inquietante, ya que no está completamente claro cómo la máquina toma sus decisiones.

Información grabada por sensores en una gran red de neuronas artificiales que procesan datos y proporcionan instrucciones necesarias para utilizar la rueda, frenos y otros sistemas. Los resultados parecen similares al comportamiento esperado por un conductor en la carne y los huesos. Pero ¿qué pasaría si un día el coche hiciera un movimiento inesperado, como ir y chocar en un árbol o parar con la luz verde? En la situación actual, sería muy difícil entender por qué sucedió. El sistema es tan complicado que incluso los ingenieros de diseño han encontrado difícil individualizar los motivos en el origen de la decisión. También es imposible pedir una explicación de los coches: no hay un criterio específico para diseñar el sistema para que pueda explicar por qué hace lo que hace.

Pensé que el misterioso pensamiento de este coche conduce a una pregunta abierta sobre la inteligencia artificial. La tecnología subyacente, conocida como la lección profunda, ha sido en los últimos años muy eficaz en la solución de problemas y a menudo se ha utilizado para fines como traducción, reconocimiento vocal y selección de imágenes. Se espera ahora que las mismas técnicas puedan diagnosticar enfermedades mortales, hacer millones de inversiones y revolucionar sectores industriales enteros. Pero todo esto no sucedería (o por lo menos no debería ocurrir) si no hubiera una manera de hacer técnicas como la enseñanza del desp más comprensible para sus creadores y las responsabilidades primarias por lo que usan.

De lo contrario será difícil predecir cuándo habrá problemas cuando serán inevitables. No por casualidad, el coche de Navia sigue en fase experimental. Hoy en día, los modelos matemáticos ya se utilizan en los Estados Unidos para seleccionar, por ejemplo, quién puede obtener la libertad controlada, quién puede pedir prestado un préstamo, y quién debe ser empleado para un trabajo. Al entrar en estos modelos, puedes entender su forma de razonar.

Recientemente, sin embargo, los bancos, ejércitos, empresas y otros sujetos prestan atención a nuevos complejos sistemas de control automático que corren el riesgo de realizar procesos de toma de decisiones totalmente inviables. Deep Learning, el sistema más popular, es una forma completamente nueva de programar ordenadores. Ahora es un problema importante y será mucho más en el futuro indicadox2, señala Tommi Jaakkola, profesor del Instituto Tecnológico de Massachusetts, trabajando para aplicaciones de comprensión automática.

Para cualquier decisión en el campo financiero, médico o militar, no se puede creer sólo una caja negra recomendadax0 título, es decir, un sistema para entender los acontecimientos sólo con las cosas terminadas. Uno ya señala que la ley debe garantizar la posibilidad de buscar inteligencia artificial tal como se logra en las conclusiones percibidas.

Para el verano de 2018, la Unión Europea podría imponer a las empresas la obligación de explicar a los clientes las decisiones tomadas por sistemas automatizados. Tal vez resulte en una empresa imposible, incluso para sistemas que al principio parecen relativamente simples, tales como aplicaciones y sitios web que utilizan una advertencia profunda para la publicidad o para recomendar listas de reproducción con canciones. Las computadoras que administran estos servicios se programan y nadie puede entender cómo lo hacen. Ni siquiera los ingenieros que desarrollaron las aplicaciones.

Todo esto abre una serie de preguntas difíciles. Con tecnología avanzada tarde o temprano, un umbral más allá del cual el uso de la inteligencia artificial requerirá un acto de confianza. También es cierto que los seres humanos a veces somos incapaces de explicar nuestros problemas mentales, pero a veces confiamos en nuestra intuición para evaluar a las personas y decidir si creerlos o no.

¿Podrán hacerlo con máquinas que piensan y toman decisiones diferentes de los seres humanos? Nunca antes se construyeron coches capaces de hacer cosas inteligibles incluso de aquellos que las crearon. ¿Cómo planeamos comunicarnos y estar de acuerdo con máquinas inteligentes que pueden resultar en impredecibles e inadecuados? Estas preguntas me han llevado a hacer un viaje a la investigación más avanzada sobre inteligencia artificial, de Google a Apple, incluyendo una reunión con uno de los grandes filósofos de nuestra edad.

Examen clínico

Nel 2015, un grupo de investigación del Hospital Mount Sinai en Nueva York, ha decidido aplicar una profunda conferencia a la base de datos del hospital, que incluye cientos de información sobre pacientes, desde los resultados del examen clínico hasta las visitas médicas. Hubo un programa llamado "Patent Profundo", diseñado para usar los datos de unos 7.000 persos. Donde se prueba en nuevos pacientes, ha sido extremadamente eficaz en la predicción de patología. Sin ninguna orientación de los especialistas, Deep Patent ha descubierto elementos repetidos dentro de los registros hospitalarios que fueron posibles para predecir cuando una persona estaba más expuesta a una serie de enfermedades, entre las cuales tumores en el hígado montenegrino.

Hay excelentes métodos para predecir enfermedades de la tarjeta clínica del paciente, dice Joel Dudley, jefe del grupo de investigación del Hospital Mount Sinai. Pero eso, añade, <x0 títulos mucho mejor seleccionadox1 título. Sin embargo, de muchas maneras, la patente profunda es un misterio. Por ejemplo, es capaz de predecir sorprendentemente bien el despliegue de preocupaciones psiquiátricas como el trabajo del diagrama. Tan pronto como el contorno es difícil de predecir, Dudley preguntó cómo era posible. Todavía no ha encontrado una respuesta. La patente profunda no ofrece indicadores relacionados. Para proporcionar asistencia real a los médicos, un instrumento debe proporcionar una explicación racional de su predicción, proporcionarnos una garantía precisa, y quizás justificar el uso de varios medicamentos de los que se entregan hasta ese punto. Sabemos cómo construir estos modelos, pero no sabemos cómo operar correctamentex2, dice Dudley triste.

La inteligencia artificial no siempre ha funcionado así. Desde el principio, ha habido dos escuelas de pensamiento sobre lo comprensible o explicativo que debería ser. Para muchos, lo más significativo era construir coches para razonar sobre una serie de reglas y lógica, haciendo su operación transparente a cualquiera que quisiera considerar el código. Otros destacaron que de hecho, la inteligencia se desarrollaría más fácilmente si hubieran seguido el ejemplo de biología, aprendiendo de la observación y la experiencia.

Esto significó un cambio completo de programación informática. No fue con el programador escribiendo los comandos para resolver un problema, pero fue el programa que especificó el algoritmo en sí sobre la base de los ejemplos y resultados deseados. Técnicas de comprensión automática que se convirtieron en los sistemas muy poderosos de inteligencia artificial moderna han seguido el segundo curso: En esencia, la máquina se programa. Al principio, este método tenía una aplicación práctica limitada, y en los años 60 s y setenta s, los márgenes permanecieron.

Luego, la computación de muchos sectores industriales y la liberación de grandes series de datos han renovado interés. Todo esto ha llevado al desarrollo de técnicas automáticas más evolucionadas y especialmente en la evolución de la tecnología conocida como la red artificial de neuronas. Desde el Noveno ' s, las redes pudieron entender los caracteres escritos a mano.

Pero sólo a principios de la última década, después de varios ajustes y refinaciones, las grandes redes de neuronas (o <x0) las redes profundas de neuronas recomendadax0⁄4 han aportado evidencia de mejoras sustanciales en la percepción automática. El mérito de la explosión actual de la inteligencia artificial es la enseñanza profunda, que ha dado a las computadoras capacidades extraordinarias: por ejemplo, el conocimiento del lenguaje hablado casi como una persona en la carne y los huesos, una capacidad altamente compleja para codificarlo en coche.

La advertencia profunda ha transformado la visión artificial y mejorado sustancialmente la traducción informal. Hoy se utiliza para decisiones importantes de cualquier tipo en medicina, finanzas, fabricación y otros sectores. La función de las tecnologías de comprensión automática es esencialmente más opaca que los sistemas basados en líneas escritas por un programador. Esto no significa que todas las futuras tecnologías de inteligencia artificial sean igualmente inteligibles. Pero, por su naturaleza, la advertencia profunda es una extremadamente oscura.

No es suficiente mirar dentro de una red de neuronas para averiguar cómo funciona. El esquema de razonamiento de una red está incrustado en el comportamiento de miles de neuronas simuladas, organizadas en docenas o hasta cientos de capas capas. Cada neurona en la primera capa obtiene una entrada por ejemplo la intensidad de un píxeles de una imagen y hace una cuenta antes de emitir nuevas señales. A su vez, estos han sido transferidos a través de una compleja red de neuronas en otra capa y así sucesivamente hasta que no sean alcanzados con un resultado complejo.

Todo esto añade a un proceso conocido como back-propagate que afecta los cálculos específicos de las neuronas para que la red pueda aprender cómo se proporciona un resultado determinado. Las numerosas secciones que componen una red profunda permiten a la propia red conocer información a diferentes niveles de abstracción. Por ejemplo, un sistema diseñado para reconocer perros, la capa inferior conoce información básica como gatos y colores, las capas superiores conocen características más complejas como el pelo y los ojos, y la capa más alta conoce toda la información - el perro. El mismo sistema, al simplificarlo, se aplica a otras entradas que hacen que el coche aprenda de sí mismo - los sonidos que forman las palabras en cuestión, las letras, y los labios que componen el interior de una llave o el movimiento del volante necesario para conducir.

Se han utilizado sistemas muy sofisticados para averiguar en detalle lo que sucede en estos sistemas. En 2015, los investigadores de Google modificaron un algoritmo para el reconocimiento de imágenes basadas en la enseñanza profunda para que en lugar de reconocer objetos en fotos, pudiera generar o modificar. De hecho, al aplicar el algoritmo inverso, los investigadores han podido detectar información que el programa utilizó, por ejemplo, para conocer a un pájaro o a un hogar. Las imágenes resultantes, producidas por un sistema llamado Sueño Profundo, muestran animales gratas, similares a alienígenas, saliendo de nubes o árboles y pagoda alucinante que emergen de bosques o cordilleras. Las imágenes muestran que la enseñanza profunda no siempre es totalmente inteligible y revelan que, para reconocer aves, algoritmos apuntan automáticamente características visibles como picos y rifles.

Pero las imágenes te hacen comprender lo diferente que es la lección de la percepción del ser humano, comenzando por el hecho de que extrae elementos de la información que tratamos de ignorar completamente. Los investigadores de Google han observado, por ejemplo, que cuando el algoritmo genera la imagen de un levantamiento de peso, también crea la de un brazo que lo sostiene. La conclusión del coche es que el brazo es todo un pedazo de shock. Otros avances pueden provenir de neuroscensión y ciencia cognitiva. Un equipo de investigación dirigido por Jef Clune, asistente de la Universidad de Wyoming, ha utilizado el equivalente de ilusiones ópticas en el campo de la inteligencia artificial para probar neuronas profundas.

2015 Clive ha demostrado que ciertas imágenes pueden empujar la red que percibe cosas que no existen, ya que las imágenes utilizan esquemas de reconocimiento al nivel mínimo que el sistema requiere. Jason Yosinski, asociado del Clive, ha creado un instrumento que funciona como una sonda en el cerebro. El instrumento apunta a una neurona en medio de la red y requiere una imagen que más activa. son todas imágenes abstractas (intente imaginar una representación impresionante de un flamenco o una bolsa escolar) y revelar la naturaleza misteriosa de los poderes perceptivos de la máquina.
Una montaña de funciones

Estas son indicaciones de cómo funciona la inteligencia artificial. Tienes que aprender más, pero no es fácil. Es la interacción de cálculos dentro de una red profunda de neuronas que determina esquemas de conocimiento más complejos y procesos de toma de decisiones, pero esas cuentas son un laberinto de funciones y variables matemáticas. Si la cuadrícula fuera demasiado pequeña, podríamos descifrarlos, dice Jaakkola. ▪x1 Pero cuando se vuelve demasiado grande, con miles de unidades por capa y miles de capas, se convierte en prácticamente ininteligible traicionax2 prendas.

En la oficina junto a la de Jaakkola trabaja Regina Barzilay, un MIT Docente que ha decidido aplicar el significado automático de la medicina. En 2015, a los 43 años, se diagnosticó un tumor de mama. El diagnóstico mismo fue traumático, pero ha sido aún más impactante para él descubrir que los métodos estadísticos y el significado automático no se utilizaron en la investigación oncológica o en la selección de terapias. Barzillai señala que la inteligencia artificial puede revolucionar la medicina, pero que para aprovechar los potenciales debe ir más allá de simples tarjetas clínicas. Su idea es utilizar datos más brutos que ahora se utilizan un poco:

▪x0

Después de terminar la terapia, Barzillai y sus estudiantes han comenzado a trabajar con los médicos de Massachusetts Hospital General para desarrollar un sistema capaz de producir datos de notas de pacientes para individualizar aquellos con características clínicas interesantes para los investigadores. Pero Barzillai se ha dado cuenta que el sistema debe ser capaz de explicar sus razonamientos. Así, con la ayuda de Jaackola y un estudiante, agregó un pasaje - el sistema emite y registra pasajes representativos de una determinada característica. Además, Barzillai y sus estudiantes están desarrollando un algoritmo de enseñanza profunda capaz de revelar los primeros signos de tumor de mama en imágenes mamográficas y con el objetivo de darle a este sistema una capacidad justificable de su razonamiento. Debe encontrar un círculo vicioso en el que el coche y el hombre co-operan madex0, dice Barzillai.

Las Fuerzas Armadas de los Estados Unidos están invirtiendo miles de millones en proyectos que prevén el uso de vehículos para vehículos piloto y vehículos voladores, identifican objetivos y ayudan a los analistas a filtrar grandes cantidades de datos. Aquí más que en cualquier otro campo, incluyendo la medicina, hay poco espacio para los misterios algorítmicos, y el Departamento de Defensa está ocupado con la transparencia de los conceptos básicos. David Gunning, director de la Agencia de Proyectos de Investigación Avanzada de Defensa, una agencia gubernamental estadounidense que invierte en tecnologías de seguridad, está coordinando un programa extremadamente adecuado: Inteligencia Artificial Explicable. Gunning explica que la automatización está ocurriendo en muchos sectores de las fuerzas armadas. Los analistas de servicios secretos están probando el sentido automático para individualizar esquemas en la gran cantidad de datos de vigilancia en su posesión. Muchos vehículos terrestres y aéreos están en fase de desarrollo y ensayo.

Pero los soldados, probablemente, no se sentirían cómodos en tanques robotizados que no pueden explicar sus decisiones, y los analistas apenas utilizarían información en ausencia de un esquema de razonamiento. Por esta razón, estos sistemas de comprensión automática a menudo crean falsas alarmas, por lo que los analistas necesitan algún elemento más para entender por qué es un indicador semejante:
En marzo DARPA ha seleccionado 13 proyectos académicos y empresariales para financiar bajo el programa de Gunning. Algunos de estos proyectos pueden ser utilizados por Carlos Guestrin, profesor de la Universidad de Washington. El Grupo Guestrin ha desarrollado un sistema que permite la comprensión automática de algoritmos para justificar sus resultados. Básicamente, el ordenador extrae automáticamente de los ejemplos de una serie de datos y los utiliza para proporcionar una explicación rápida. Por ejemplo, un sistema diseñado para clasificar correos electrónicos de terroristas utiliza normalmente diferentes correos electrónicos en el proceso y comprensión y decisión. Y el sistema de la Universidad de Washington es capaz de aislar algunas palabras clave en un mensaje. Guestrin y sus colegas también han encontrado un sistema que permite a algoritmos conocer imágenes para entender su esquema de razonamiento mediante la grabación de piezas más significativas de una imagen. El problema de este y otros sistemas similares, por ejemplo, el de Barzillai es que las explicaciones siempre se han simplificado. Esto significa que se pierde información importante.

Tu sueño aún no se ha dado cuenta. El objetivo es construir una inteligencia artificial que sea capaz de interactuar con el ser humano y explicar su comportamiento (10x0], dice Guestrin. ▪x1 Todavía estamos lejos de una inteligencia artificial que es verdaderamente inefable: Sabía que la inteligencia artificial sería fundamental si la tecnología realmente se convirtió en parte integral de nuestra vida cotidiana. Tom Gruber, jefe del equipo que está desarrollando el asistente sirio virtual de Apple, dice que el comentario es un objetivo clave de su grupo.

Él y sus colegas están trabajando para que Siria sea más inteligente y capaz. Gruber no habla de desarrollos futuros, pero es fácil imaginar que si Siria nos aconseja un restaurante, nos gustaría saber por qué.

Ruslan Salakhdinov, director de Investigación sobre Inteligencia Artificial de Apple y profesor asociado de la Universidad Carnegie Mellon de Pittsburgh en los Estados Unidos, considera el corazón del informe entre seres humanos y vehículos inteligentes. Al igual que con el comportamiento humano, la inteligencia artificial puede no ser posible simplificar todo lo que hace. Incluso si alguien nos da una explicación que parece razonable, permite que sea incompleta y lo mismo puede servir inteligencia artificial recomendadax0 título, dice Clive. Por su naturaleza, la inteligencia probablemente sólo se explica parcialmente.

Hay una parte que es sólo instintiva, involuntariamente, no-estudio obedecióx0 confianza. Si las cosas son así, en un momento determinado tendremos que confiar en la inteligencia artificial, o tendremos que renunciar a usarla. La inteligencia artificial se convertirá en parte inteligencia social. El contrato social se basa en una serie de posiciones esperadas y por lo tanto los sistemas de inteligencia artificial tendrán que ser diseñados para adaptarse a nuestras normas sociales. Si realmente construimos tanques robot y otros coches capaces de matar, es esencial que sus procesos de toma de decisiones sean consistentes con nuestros juicios éticos.

Tráficos encicloperos

Fui a la Boston Tufts University, donde conocí al filósofo Daniel Dentt. Un capítulo de su último libro <x0 ConfidencialDe bacterias a Bach y atrás didx1 título, un tipo de tratado de conciencia de la enciclopedia, especula que parte de la evolución de la inteligencia será la creación de sistemas capaces de desarrollar actividades que cualquiera que los haya creado no puede hacer. La pregunta es: ¿Qué medidas debemos tomar para hacer las cosas con calma, qué normas debemos pedir para estos sistemas y nosotros mismos?

Dennett advierte así de los riesgos asociados a la investigación de la atenuación. Si tenemos que usar estas máquinas y tener que darles el máximo control sobre cómo y por qué nos responden, dice. Pero como probablemente no hay respuestas perfectas, necesitamos evitar confiar en explicaciones de inteligencia artificial de la manera en que no confiamos en los de nuestros gustos, no importa lo inteligente que sea el coche. ▪x0 Si la inteligencia artificial no es capaz de explicar mejor que lo que hace clicx1⁄4], concluye, неx2⁄4⁄4 no deberíamos creerlo.
(Will Knight for MIT Technology Review)