L'humanité est - elle en danger?

Mais il y avait quelque chose de complètement différent dans les modèles Google, Tesla et General Motors, démontrant la puissance accrue de l'intelligence artificielle. La voiture de Navia n'a pas suivi les instructions d'un ingénieur ou d'un programmeur, mais a pleinement confiance en un algorithme qui avait appris à conduire en observant un être humain. La conception d'une machine de ce type est une entreprise extraordinaire mais inquiétante, car il n'est pas tout à fait clair comment la machine prend ses décisions.

Informations enregistrées par les capteurs sur un vaste réseau de neurones artificiels qui traitent les données et fournissent les instructions nécessaires pour utiliser la roue, les freins et d'autres systèmes. Les résultats ressemblent au comportement attendu par un conducteur dans la chair et les os. Mais qu'arriverait-il si un jour la voiture faisait un mouvement inattendu, comme aller et s'écraser dans un arbre ou s'arrêter avec le feu vert? Dans la situation actuelle, il serait très difficile de comprendre pourquoi cela s'est produit. Le système est si compliqué que même les ingénieurs concepteurs ont eu du mal à individualiser les motifs à l'origine de la décision. Il est également impossible de demander une explication des voitures: il n'y a pas de critère spécifique pour concevoir le système afin qu'il puisse expliquer pourquoi il fait ce qu'il fait.

Je pensais que la mystérieuse pensée de cette voiture mène à une question ouverte sur l'intelligence artificielle. La technologie sous-jacente, connue sous le nom de leçon profonde, a été très efficace ces dernières années pour résoudre les problèmes et a souvent été utilisée à des fins comme la traduction, la reconnaissance vocale et la sélection d'images. On s'attend maintenant à ce que les mêmes techniques puissent diagnostiquer des maladies mortelles, faire des millions d'investissements et révolutionner des secteurs industriels entiers. Mais tout cela n'arriverait pas (ou du moins ne devrait pas arriver) s'il n'y avait pas un moyen de rendre les techniques comme l'enseignement de la formation plus compréhensibles pour leurs créateurs et les responsabilités principales pour ce qu'ils utilisent.

Sinon, il sera difficile de prédire quand il y aura des problèmes quand ils seront inévitables. Pas par hasard, la voiture de Navia est encore en phase expérimentale. Aujourd'hui, les modèles mathématiques sont déjà utilisés aux États-Unis pour choisir, par exemple, qui peut obtenir la liberté contrôlée, qui peut emprunter un prêt et qui devrait être employé pour un emploi. En entrant dans ces modèles, vous pouvez comprendre leur façon de raisonner.

Récemment, cependant, les banques, les armées, les entreprises et d'autres sujets prêtent attention à de nouveaux systèmes complexes de compréhension automatique qui risquent de prendre des décisions totalement imperméables. Deep Learning, le système le plus populaire, est une toute nouvelle façon de programmer les ordinateurs. “Qych est maintenant un problème important et sera beaucoup plus dans le futur”, note Tommi Jaakkola, professeur de l'Institut de technologie du Massachusetts (MIT) travaillant pour des applications de compréhension automatique.

Pour toute décision dans le domaine financier, médical ou militaire, vous ne pouvez pas croire juste une boîte noire”, c'est-à-dire un système pour comprendre les événements seulement avec des choses finies. On souligne déjà que la possibilité de rechercher l'intelligence artificielle telle qu'elle ressort des conclusions perçues devrait être garantie par la loi.

À l'été 2018, l'Union européenne pourrait imposer aux entreprises l'obligation d'expliquer aux clients les décisions prises par les systèmes automatisés. Peut-être en résultera-t-il une entreprise impossible, même pour les systèmes qui au début semblent relativement simples, comme les applications et les sites Web qui utilisent un avertissement profond pour la publicité ou de recommander des playlists avec des chansons. Les ordinateurs gérant ces services sont programmés eux-mêmes et personne n'est en mesure de comprendre comment ils le font. Pas même les ingénieurs qui ont développé les applications.

Tout cela ouvre une série de questions difficiles. Avec la technologie avancée tôt ou tard, un seuil au-delà duquel l'utilisation de l'intelligence artificielle nécessitera un acte de confiance. Il est également vrai que nous les êtres humains sommes parfois incapables d'expliquer nos problèmes mentaux, mais parfois nous avons confiance dans notre intuition pour évaluer les gens et décider de les croire ou non.

Seront-ils capables de le faire avec des machines qui pensent et prennent des décisions différentes de celles des êtres humains? Jamais auparavant les voitures ne furent construites capables de faire des choses inintelligibles même de ceux qui les créèrent. Comment envisageons-nous de communiquer et d'accepter avec des machines intelligentes qui peuvent entraîner une imprévisibilité et une insuffisance? Ces questions m'ont incité à faire un voyage à la recherche la plus avancée sur l'intelligence artificielle, de Google à Apple, y compris une rencontre avec l'un des grands philosophes de notre époque.

Examen clinique

Nel 2015, un groupe de recherche de l'hôpital Mount Sinai à New York, a décidé d'appliquer des conférences profondes à la base de données de l'hôpital, qui comprend des centaines d'informations sur les patients, des résultats des examens cliniques aux visites médicales. Un programme, appelé Deep Patent, a été conçu pour utiliser les données de quelque 7 000 persoses. Là où il est testé sur de nouveaux patients, il a été extrêmement efficace pour prédire la pathologie. Sans les conseils des spécialistes, Deep Patent a découvert des éléments répétés à l'intérieur des dossiers hospitaliers qui ont été possibles pour prédire quand une personne a été plus exposée à une série de maladies, parmi lesquelles des tumeurs dans le foie monténégrin.

Il existe d'excellentes méthodes de prédiction des maladies à partir de la carte clinique du patient, explique Joel Dudley, chef du groupe de recherche de l'Hôpital Mount Sinai. Mais cela, ajoute-t-il, “fonctionne beaucoup mieux”. À bien des égards, cependant, le brevet profond est un mystère. Par exemple, il est capable de prédire étonnamment bien l'apparition de préoccupations psychiatriques telles que le travail du diagramme. Dès que le contour est difficile à prédire, Dudley a demandé comment c'était possible. Il n'a toujours pas trouvé de réponse. Deep Patent n'offre aucun indicateur connexe. Pour fournir une aide réelle aux médecins, un instrument doit fournir une explication rationnelle de sa prédiction, nous fournir une assurance exacte, et peut-être justifier l'utilisation de divers médicaments de ceux qui ont été donnés jusqu'à ce point. Nous savons comment construire ces modèles, mais nous ne savons pas comment fonctionner”, dit triste Dudley.

L'intelligence artificielle n'a pas toujours fonctionné de cette façon. Depuis le début, il y a eu deux écoles de réflexion sur la façon dont elle devrait être compréhensible ou explicative. Pour beaucoup, la chose la plus significative était de construire des voitures pour raisonner sur une série de règles et de logique, rendant leur fonctionnement transparent à quiconque voudrait considérer le code. D'autres ont souligné qu'en fait, l'intelligence se développerait plus facilement s'ils avaient suivi l'exemple de la biologie, en apprenant de l'observation et de l'expérience.

Cela signifiait complètement renverser la programmation informatique. Ce n'est pas avec le programmeur qui a écrit les commandes pour résoudre un problème, mais c'est le programme qui a spécifié l'algorithme lui-même sur la base des exemples et des résultats souhaités. Les techniques de compréhension automatique qui ont évolué vers les systèmes très puissants de l'intelligence artificielle moderne ont suivi le second cours: Essentiellement, la machine est programmée elle-même. Au début, cette méthode avait une application pratique limitée et, dans les années 60 et 70, les marges restaient.

Ensuite, l'informatisation de nombreux secteurs industriels et la diffusion d'importantes séries de données ont renouvelé leur intérêt. Tout cela a conduit au développement de techniques automatiques plus évoluées et surtout dans l'évolution de la technologie connue sous le nom de réseau artificiel de neurones. Depuis la neuvième, les réseaux ont pu comprendre les caractères écrits à la main.

Mais ce n'est qu'au début de la dernière décennie, après divers ajustements et raffinements, que les grands réseaux de neurones (ou <x0) les réseaux profonds de neurones” ont fourni des preuves d'améliorations substantielles de la perception automatique. Le mérite de l'explosion actuelle de l'intelligence artificielle est un enseignement profond, qui a donné aux ordinateurs des capacités extraordinaires: par exemple, la connaissance de la langue parlée presque comme une personne dans la chair et les os, une capacité très complexe de la coder en voiture.

Un avertissement profond a transformé la vision artificielle et amélioré sensiblement la traduction informelle. Aujourd'hui, il est utilisé pour des décisions importantes de toute nature dans les secteurs de la médecine, de la finance, de la fabrication et d'autres secteurs. La fonction des technologies de compréhension automatique est essentiellement plus opaque que les systèmes basés sur des lignes écrites par un programmeur. Cela ne signifie pas que toutes les futures technologies de l'intelligence artificielle seront tout aussi inintelligibles. Mais, par sa nature, l'avertissement profond est extrêmement sombre “kkt”.

Il ne suffit pas de regarder à l'intérieur d'un réseau de neurones pour comprendre comment ça marche. Le raisonnement d'un réseau est intégré dans le comportement de milliers de neurones simulés, organisés en dizaines ou jusqu'à des centaines de couches. Chaque neurone de la première couche obtient une entrée par exemple l'intensité d'un pixels d'une image et fait un compte avant d'émettre de nouveaux signaux. À leur tour, ils ont été transférés par un réseau complexe de neurones dans une autre couche et ainsi de suite jusqu'à ce qu'ils ne soient pas atteints avec un résultat complexe.

Tout cela s'ajoute à un processus appelé rétropropagate qui affecte les calculs de certains neurones afin de permettre au réseau d'apprendre comment un certain résultat est fourni. Les nombreuses sections qui composent un réseau profond permettent au réseau lui-même de connaître l'information à différents niveaux d'abstraction. Par exemple, un système conçu pour reconnaître les chiens, la couche inférieure connaît les informations de base telles que les jacks et les couleurs, les couches supérieures connaissent des caractéristiques plus complexes telles que les cheveux et les yeux, et la couche la plus élevée connaît l'ensemble de l'information - le chien. Le même système, en le simplifiant, s'applique à d'autres entrées qui font apprendre la voiture par elle-même - les sons qui forment les mots en question, les lettres, et les lèvres qui composent l'intérieur d'une clé ou le mouvement du volant nécessaire pour conduire.

Des systèmes très sophistiqués ont été utilisés pour savoir en détail ce qui se passe dans ces systèmes. En 2015, les chercheurs de Google ont modifié un algorithme de reconnaissance des images basé sur un enseignement profond afin qu'au lieu de reconnaître les objets dans les photos, il puisse générer ou modifier. En fait, en appliquant l'algorithme inverse, les chercheurs ont pu détecter l'information que le programme utilisait, par exemple, pour une connaissance avec un oiseau ou une maison. Les images résultantes, produites par un système appelé Deep Dream, montrent des animaux gratastiques, semblables à des extraterrestres, provenant de nuages ou d'arbres et de pagode hallucinante qui émergent de forêts ou de chaînes de montagnes. Les images montrent que l'enseignement profond n'est pas toujours entièrement inintelligible et révèlent que, pour reconnaître les oiseaux, les algorithmes ciblent automatiquement les caractéristiques visibles comme les becs et les fusils.

Mais les images vous font réaliser combien il est différent de la façon dont la leçon est différente de la perception de l'être humain, en commençant par le fait qu'il extrait des éléments d'information que nous essayons d'ignorer complètement. Les chercheurs de Google ont noté, par exemple, que lorsque l'algorithme génère l'image d'un lifting de poids, il crée aussi celui d'un bras qui le tient. La conclusion de la voiture est que le bras est tout un morceau de choc. D'autres progrès peuvent provenir de la neuroscension et de la science cognitive. Une équipe de recherche dirigée par Jef Clune, assistant à l'Université du Wyoming, a utilisé l'équivalent des illusions optiques dans le domaine de l'intelligence artificielle pour tester des neurones profonds.

2015 Clive a montré que certaines images peuvent pousser le réseau qui perçoit des choses qui n'existent pas, car les images utilisent des systèmes de reconnaissance au niveau minimum requis par le système. Jason Yosinski, associé du Clive, a créé un instrument qui fonctionne comme une sonde dans le cerveau. L'instrument vise un neurone au milieu du réseau et nécessite une image qui active le plus. sont toutes des images abstraites (essayer d'imaginer une représentation impressionnante d'un flamant ou d'un sac scolaire) et de révéler la nature mystérieuse des pouvoirs perceptifs de la machine.
Une montagne de fonctions

Ce sont des indications sur le fonctionnement de l'intelligence artificielle. Tu dois en apprendre plus, mais ce n'est pas facile. C'est l'interaction des calculs au sein d'un réseau profond de neurones qui détermine des schémas de connaissances et des processus décisionnels plus complexes, mais ces comptes sont un labyrinthe de fonctions et de variables mathématiques. Si la grille était trop petite, nous pourrions décoder”, dit Jaakkola. “Mais quand il devient trop grand, avec des milliers d'unités par couche et des milliers de couches, il devient pratiquement inintelligible”.

Dans le bureau à côté de celui de Jaakkola travaille Regina Barzilay, un MIT Docente qui a décidé d'appliquer la signification automatique de la médecine. En 2015, à 43 ans, une tumeur au sein a été diagnostiquée. Le diagnostic lui-même était traumatisant, mais il lui a été encore plus choquant de découvrir que les méthodes statistiques et le sens automatique n'étaient pas utilisés dans la recherche oncologique ou dans la sélection des thérapies. Barzillai souligne que l'intelligence artificielle peut révolutionner la médecine, mais que pour profiter des potentiels doit aller au-delà des simples cartes cliniques. Son idée est d'utiliser des données plus brutes qui sont maintenant un peu utilisées:

“

Après la fin de la thérapie, Barzillai et ses étudiants ont commencé à travailler avec les médecins du Massachusetts General Hospital pour développer un système capable de produire des données à partir des notes des patients afin d'individualiser ceux qui ont des caractéristiques cliniques intéressantes pour les chercheurs. Mais Barzillai a réalisé que le système doit pouvoir expliquer ses raisonnements. Ainsi, avec l'aide de Jaackola et d'un étudiant, il a ajouté un passage - le système émet et enregistre des passages représentatifs d'une certaine fonctionnalité. En outre, Barzillai et ses étudiants développent un enseignement en profondeur d'algorithme capable de révéler les premiers signes de tumeur mammaire dans les images mammographiques et visant à donner à ce système une capacité justifiable de son raisonnement. Faut trouver un cercle vicieux dans lequel la voiture et l'homme coopèrent”, dit Barzillai.

Les Forces armées américaines investissent des milliards dans des projets qui prévoient l'utilisation de véhicules pour piloter des véhicules et des véhicules volants, identifier des cibles et aider les analystes à filtrer de grandes quantités de données. Ici, plus que dans n'importe quel autre domaine, y compris la médecine, il y a peu de place pour les mystères algorithmiques, et le Département de la Défense est occupé avec la transparence de base <x1-x2>. David Gunning, directeur de Defense Advanced Research Projects Agency (DARPA), un organisme du gouvernement américain qui investit dans les technologies de sécurité, coordonne un programme extrêmement approprié : l'intelligence artificielle explicable. Gunning explique que l'automatisation a lieu dans de nombreux secteurs des forces armées. Les analystes des services secrets testent le sens automatique d'individualiser les systèmes dans la grande quantité de données de surveillance en leur possession. De nombreux véhicules terrestres et aériens sont en phase de développement et d'essai.

Mais les soldats, probablement, ne se sentiraient pas à l'aise dans les chars robotisés qui sont incapables d'expliquer leurs décisions, et les analystes n'utiliseraient guère l'information en l'absence d'un schéma de raisonnement. Pour cette raison, ces systèmes de compréhension automatique créent souvent de fausses alarmes, de sorte que les analystes ont besoin d'un autre élément pour comprendre pourquoi il s'agit d'un tel indicateur”, dit Gunning.
En mars, la DARPA a sélectionné 13 projets universitaires et commerciaux pour financer le programme Gunning. Certains de ces projets peuvent être utilisés par Carlos Guestrin, professeur à l'Université de Washington. Le Groupe Guestrin a développé un système qui permet aux algorithmes de compréhension automatique de justifier leurs résultats. Fondamentalement, l'ordinateur extrait automatiquement des exemples d'une série de données et les utilise pour fournir une explication rapide. Par exemple, un système conçu pour classer les courriers électroniques des terroristes utilise normalement des courriels différents dans le processus, la compréhension et la décision. Et le système de l'Université de Washington peut isoler certains mots clés dans un message. Guestrin et ses collègues ont également trouvé un système qui permet aux algorithmes de connaître les images pour comprendre leur schéma de raisonnement en enregistrant des morceaux plus significatifs d'une image. Le problème de ce système et d'autres systèmes similaires, par exemple celui de Barzillai, est que les explications ont toujours été simplifiées. Cela signifie que certaines informations importantes sont perdues.

Votre rêve n'a pas encore été réalisé. L'objectif est de construire une intelligence artificielle capable d'interagir avec l'être humain et d'expliquer son comportement”, dit Guestrin. “Nous sommes encore loin d'une intelligence artificielle qui est vraiment ineffable”. Je savais que l'intelligence artificielle serait fondamentale si la technologie devenait une partie intégrante de notre vie quotidienne. Tom Gruber, chef de l'équipe qui développe l'assistant virtuel syrien d'Apple, affirme que le commentaire est un objectif clé de son groupe.

Lui et ses collègues travaillent à rendre la Syrie plus intelligente et plus capable. Gruber ne parle pas de développements futurs, mais il est facile d'imaginer que si la Syrie nous conseille un restaurant, nous aimerions savoir pourquoi.

Ruslan Salakhdinov, directeur de la recherche sur l'intelligence artificielle à Apple et professeur associé à l'Université Carnegie Mellon de Pittsburgh aux États-Unis, examine le cœur du rapport entre les êtres humains et les véhicules intelligents. Comme pour le comportement humain, l'intelligence artificielle peut ne pas être possible de simplifier tout ce qu'elle fait. Même si quelqu'un nous donne une explication qui semble raisonnable, elle permet d'être incomplète et la même peut servir l'intelligence artificielle”, dit Clive. Pour sa nature, l'intelligence n'est probablement expliquée de façon rationnelle que partiellement.

Il y a une partie qui est instinctive, involontairement, non-étudiante”. Si les choses sont comme ça, à un certain moment, nous devrons soit faire confiance à l'intelligence artificielle, soit renoncer à l'utiliser. L'intelligence artificielle deviendra partie intégrante de l'intelligence sociale. Le contrat social est basé sur une série de positions attendues et donc les systèmes d'intelligence artificielle devront être conçus pour s'adapter à nos normes sociales. Si nous construisons vraiment des réservoirs de robots et d'autres voitures capables de tuer, il est essentiel que leurs processus décisionnels soient cohérents avec nos jugements éthiques.

Trafic encyclopérique

Je suis allé à l'université de Boston Tufts, où j'ai rencontré le philosophe Daniel Dentt. Un chapitre de son dernier livre “De bactéries à Bach et vers le dos”, un type de traité de conscience encyclopédie, spécule que certaines de l'évolution de l'intelligence seront la création de systèmes capables de développer des activités que quiconque les a créés ne peut pas faire. La question est : Quelles mesures devons-nous prendre pour faire les choses calmement, quelles normes devrions-nous demander pour ces systèmes et nous-mêmes ?”, demande le philosophe.

Dennett met ainsi en garde contre les risques associés à la recherche d'extinction. Si nous devons utiliser ces machines et leur donner un maximum de contrôle sur la façon et les raisons de leur réaction, dit-il. Mais comme il n'y a probablement pas de réponses parfaites, nous devons éviter de faire confiance aux explications de l'intelligence artificielle comme nous ne faisons pas confiance à ceux de nos semblables, peu importe à quel point la voiture serait intelligente. “Si l'intelligence artificielle est incapable d'expliquer mieux que ce qu'elle fait”, elle conclut, “alors nous ne devrions pas croire”.
(Will Knight pour l'examen de la technologie MIT)