Ist die Menschheit in Gefahr?

Aber es gab etwas ganz anderes über Google Modelle, Tesla und General Motors, was die erhöhte Kraft der künstlichen Intelligenz zeigt. Das Auto von Navia befolgte nicht die Anweisungen eines Ingenieurs oder Programmierers, sondern vertraute voll einen Algorithmus, der gelernt hatte, durch die Beobachtung eines Menschen zu fahren. Das Design einer Maschine dieser Art ist ein außergewöhnliches, aber störendes Unternehmen, da es nicht ganz klar ist, wie die Maschine ihre Entscheidungen trifft.

Informationen, die von Sensoren auf einem großen Netzwerk von künstlichen Neuronen erfasst werden, die Daten verarbeiten und Anweisungen zur Nutzung des Rades, Bremsen und anderer Systeme geben. Die Ergebnisse ähneln dem Verhalten eines Fahrers im Fleisch und Knochen. Aber was würde passieren, wenn ein Tag das Auto einen unerwarteten Zug gemacht hat, wie z.B. zu gehen und in einen Baum zu stürzen oder mit dem grünen Licht zu stoppen? In der aktuellen Situation wäre es sehr schwierig zu verstehen, warum es passiert. Das System ist so kompliziert, dass selbst Designer-Ingenieure es schwer gefunden haben, Motive in den Ursprung der Entscheidung zu individualisieren. Es ist auch unmöglich, eine Erklärung von Autos zu verlangen: Es gibt kein spezifisches Kriterium, das System zu entwerfen, damit es erklären kann, warum es tut.

Ich dachte, dass der mysteriöse Gedanke dieses Autos zu einer offenen Frage über künstliche Intelligenz führt. Die zugrundeliegende Technologie, bekannt als die tiefe Lektion, war in den letzten Jahren sehr effektiv bei der Lösung von Problemen und wurde häufig für Zwecke wie Übersetzung, Gesangserkennung und Bildauswahl verwendet. Es wird nun erwartet, dass die gleichen Techniken in der Lage sein werden, tödliche Krankheiten zu diagnostizieren, Millionen von Investitionen zu machen und die gesamte Industrie zu revolutionieren. Aber all dies würde nicht passieren (oder zumindest nicht passieren), wenn es nicht eine Möglichkeit wäre, Techniken wie das Dep-Lehren für ihre Schöpfer und die Hauptverantwortung für das, was sie verwenden, verständlicher zu machen.

Ansonsten wird es schwierig zu vorhersagen, wenn es Probleme gibt, wenn sie unvermeidlich sein werden. Nicht zufällig ist Navias Auto noch in der experimentellen Phase. Heute werden in den Vereinigten Staaten bereits mathematische Modelle verwendet, um zum Beispiel zu wählen, wer die kontrollierte Freiheit erhalten kann, wer ein Darlehen leihen kann und wer für einen Job eingesetzt werden soll. Durch die Eingabe dieser Modelle können Sie ihre Art und Weise der Begründung verstehen.

Vor kurzem achten Banken, Armeen, Unternehmen und andere Subjekte jedoch auf neue komplexe automatische Systeme, die in Gefahr sind, völlig unwiderstehbare Entscheidungsprozesse zu treffen. Deep Learning, das beliebteste System, ist eine völlig neue Art der Programmierung von Computern. “Qych ist jetzt ein wichtiges Problem und wird viel mehr in der Zukunft sein”, sagt Tommi Jaakkola, Professor des Massachusetts Institute of Technology (MIT) für automatische Verständnissanwendungen.

Für jede Entscheidung im Finanz-, Medizin- oder Militärbereich können Sie nicht glauben, nur ein schwarzes Feld”, also ein System, um Ereignisse nur mit fertigen Dingen zu verstehen. Man weist bereits darauf hin, dass die Möglichkeit der Suche nach künstlicher Intelligenz, wie in wahrgenommenen Schlussfolgerungen erreicht, gesetzlich garantiert werden sollte.

Bis zum Sommer 2018 konnte die Europäische Union Unternehmen die Verpflichtung zur Erklärung der Entscheidungen der Kunden durch automatisierte Systeme auferlegen. Vielleicht wird es zu einem unmöglichen Unternehmen führen, auch für Systeme, die zuerst relativ einfach aussehen, wie Apps und Websites, die eine tiefe Warnung für Werbung verwenden oder Wiedergabelisten mit Songs zu empfehlen. Computer, die diese Dienste verwalten, werden selbst programmiert und niemand ist in der Lage, zu verstehen, wie sie es tun. Nicht einmal die Ingenieure, die die Apps entwickelten.

All dies öffnet eine Reihe von schwierigen Fragen. Mit der Technologie, die früher oder später fortgeschritten ist, wird eine Schwelle, über die die Verwendung künstlicher Intelligenz ein Vertrauensakt erfordert. Es ist auch wahr, dass wir Menschen manchmal nicht in der Lage sind, unsere psychischen Probleme zu erklären, aber manchmal vertrauen wir unsere Intuition, Menschen zu bewerten und zu entscheiden, ob sie glauben oder nicht.

Werden sie in der Lage, es mit Maschinen zu tun, die denken und Entscheidungen anders machen als Menschen? Nie zuvor wurden Autos gebaut, die in der Lage waren, unübertroffene Dinge auch von denen zu tun, die sie erschaffen. Wie planen wir, mit intelligenten Maschinen zu kommunizieren und zu vereinbaren, die zu unberechenbaren und unzulänglichen Ergebnissen führen können? Diese Fragen haben mich dazu veranlasst, eine Reise in die fortschrittlichste Forschung zur künstlichen Intelligenz von Google nach Apple zu machen, einschließlich eines Treffens mit einem der großen Philosophen unseres Alters.

Klinische Bewertung

Nel 2015, eine Forschungsgruppe des Mount Sinai Hospital in New York, hat sich entschieden, eine tiefe Vorlesung in der Krankenhausdatenbank anzuwenden, die Hunderte von Informationen über Patienten enthält, von klinischen Untersuchungsergebnissen bis hin zu medizinischen Besuchen. Es gab ein Programm namens Deep Patent, das entworfen wurde, um die Daten von rund 7.000 Persosen zu verwenden. Wo es auf neue Patienten getestet wird, ist es äußerst effektiv in der Vorhersage der Pathologie. Ohne jede Anleitung der Spezialisten hat Deep Patent wiederholte Elemente innerhalb von Krankenhausdaten entdeckt, die es möglich waren, vorherzusagen, wenn eine Person einer Reihe von Krankheiten ausgesetzt war, darunter Tumoren in der Montenegrin Leber.

Es gibt ausgezeichnete Methoden zur Vorhersage von Krankheiten aus der klinischen Karte des Patienten, sagt Joel Dudley, Leiter der Berg Sinai Krankenhaus-Forschungsgruppe. Aber das fügt er hinzu, “funktioniert viel besser”. In vielerlei Hinsicht ist Deep Patent jedoch ein Geheimnis. Zum Beispiel ist er in der Lage, überraschend gut die Darstellung psychiatrischer Bedenken wie die Arbeit des Diagramms vorherzusagen. Sobald die Umrisse schwer vorhersagen, fragte Dudley, wie es möglich war. Er hat noch keine Antwort gefunden. Deep Patent bietet keine verwandten Indikatoren. Um den Ärzten eine echte Hilfe zu bieten, muss ein Instrument eine rationelle Erklärung seiner Vorhersage geben, uns genaue Gewissheit geben und vielleicht die Verwendung verschiedener Medikamente von den bis zu diesem Punkt gegebenen. Wir wissen, wie wir diese Modelle bauen, aber wir wissen nicht, wie wir arbeiten”, sagt traurig Dudley.

Künstliche Intelligenz hat nicht immer so funktioniert. Von Anfang an gibt es zwei Schulen, die darüber nachdenken, wie verständlich oder erklären sollten. Für viele war es am sinnvollsten, Autos zu bauen, um auf eine Reihe von Regeln und Logik zu Grund, die ihre Bedienung transparent für alle, die den Code betrachten möchten. Andere betonten, dass in der Tat die Intelligenz leichter entwickeln würde, wenn sie das Beispiel der Biologie, das Lernen aus Beobachtung und Erfahrung verfolgt hätten.

Das bedeutete, die Computer-Programmierung komplett zu beenden. Es war nicht mit dem Programmierer, die Befehle zur Lösung eines Problems zu schreiben, aber es war das Programm, das den Algorithmus selbst auf der Grundlage der gewünschten Beispiele und Ergebnisse spezifizierte. Automatische Verständnisstechniken, die sich zu den sehr leistungsfähigen Systemen der modernen künstlichen Intelligenz entwickelt haben, folgen dem zweiten Kurs: Im Wesentlichen wird die Maschine selbst programmiert. Zunächst hatte diese Methode eine begrenzte praktische Anwendung, und in den 1960er 's und siebziger 's blieben die Margen.

Dann haben die Computerisierung vieler Industriesektoren und die Veröffentlichung großer Datenreihen ein neues Interesse. All dies hat zur Entwicklung weiterentwickelter automatischer Techniken und vor allem in der Entwicklung der Technologie geführt, die als künstliches Netzwerk von Neuronen bekannt ist. Seit dem Ninth s konnten Netzwerke die von Hand geschriebenen Zeichen verstehen.

Aber erst Anfang des letzten Jahrzehnts haben die großen Netze von Neuronen (oder <x0) nach verschiedenen Anpassungen und Raffinationen die tiefen Netzwerke von Neuronen” wesentliche Verbesserungen der automatischen Wahrnehmung bewiesen. Das Verdienst der aktuellen Explosion der künstlichen Intelligenz ist eine tiefe Lehre, die den Computern außergewöhnliche Kapazitäten gegeben hat: zum Beispiel das Wissen der Sprache, das fast als Person im Fleisch und Knochen gesprochen wird, eine hochkomplexe Fähigkeit, es mit dem Auto zu Coden.

Deep warning hat die künstliche Vision verändert und die informelle Übersetzung wesentlich verbessert. Heute wird es für wichtige Entscheidungen jeglicher Art in Medizin, Finanzen, Fertigung und anderen Sektoren verwendet. Die Funktion der automatischen Verständnisstechnologien ist im Wesentlichen undurchsichtiger als Systeme, die auf Linien eines Programmierers basieren. Dies bedeutet nicht, dass alle zukünftigen künstlichen Intelligenzstechnologien gleichermaßen unverständlich sind. Aber durch seine Natur ist tiefe Warnung eine extrem dunkle “kkt”.

Es reicht nicht aus, in einem Netzwerk von Neuronen zu schauen, um herauszufinden, wie es funktioniert. Das System eines Netzwerks ist eingebettet in das Verhalten von Tausenden simulierter Neuronen, die in dutzenden oder bis zu hunderten Schichtschichten organisiert werden. Jeder Neuron in der ersten Schicht erhält einen Input, z.B. die Intensität einer Pixel eines Bildes und macht ein Konto, bevor neue Signale ausgegeben werden. Diese wurden wiederum durch ein komplexes Netzwerk von Neuronen in einer anderen Schicht übertragen und so weiter, bis sie mit einem komplexen Ergebnis nicht erreicht werden.

All dies fügt einen Prozess hinzu, der als Back-propagate bezeichnet wird, der bestimmte Berechnungen von Neuronen beeinflusst, um das Netzwerk zu ermöglichen, zu erfahren, wie ein bestimmtes Ergebnis bereitgestellt wird. Die vielen Abschnitte, die ein tiefes Netzwerk bilden, ermöglichen es dem Netzwerk selbst, Informationen auf verschiedenen Ebenen der Abstraktion kennen zu lernen. Zum Beispiel ein System zur Erkennung von Hunden, die untergeordnete Schicht kennt grundlegende Informationen wie Jacken und Farben, die überlegenen Schichten kennen komplexere Merkmale wie Haar und Augen, und die höchste Schicht weiß die ganze Information - der Hund. Das gleiche System, indem es vereinfacht, gilt für andere Eingänge, die das Auto von sich selbst lernen - die Geräusche, die die betreffenden Worte, die Buchstaben und die Lippen bilden, die die Innenseite eines Schlüssels oder die Bewegung des Lenkrads machen, die zur Fahrt benötigt werden.

Sehr anspruchsvolle Systeme wurden verwendet, um genau zu erfahren, was in diesen Systemen geschieht. Im Jahr 2015 haben Google-Forscher einen Algorithmus für die Anerkennung von Bildern, der auf tiefem Unterricht basiert, so dass anstelle der Erkennung von Objekten in Fotos es in der Lage wäre, zu generieren oder zu verändern. Durch die Anwendung des Reverse-Algorithmus konnten Forscher Informationen erkennen, die das Programm beispielsweise für eine Bekanntschaft mit einem Vogel oder einem Haus verwendet. Die daraus resultierenden Bilder, die von einem System namens Deep Dream produziert wurden, zeigen gratatische Tiere, ähnlich wie Aliens, aus Wolken oder Bäumen und halluzinanten Pagode, die aus Wäldern oder Bergbereichen entstehen. Bilder zeigen, dass die tiefe Lehre nicht immer völlig unerbittlich ist und zeigen, dass Algorithmen, um Vögel zu erkennen, automatisch sichtbare Merkmale wie Schnabeln und Gewehre richten.

Aber die Bilder machen Sie erkennen, wie unterschiedlich es ist, wie unterschiedlich die Lektion von der Wahrnehmung des menschlichen Wesens ist, beginnend mit der Tatsache, dass sie Elemente aus Informationen extrahiert, die wir versuchen, vollständig zu ignorieren. Google-Forscher haben beispielsweise festgestellt, dass, wenn Algorithmus das Bild eines Gewichthebers generiert, es auch die eines Arms erzeugt, der es hält. Der Schluss des Autos ist, dass der Arm alle ein Stück Schock ist. Andere Fortschritte können aus Neuroscension und kognitiver Wissenschaft kommen. Ein Forschungsteam unter der Leitung von Jef Clune, Assistent der Wyoming University, hat das Äquivalent optischer Illusionen im Bereich der künstlichen Intelligenz verwendet, um tiefe Neuronen zu testen.

2015 Clive hat gezeigt, dass bestimmte Bilder das Netzwerk drücken können, das Dinge wahrnimmt, die nicht existieren, da Bilder Anerkennungssysteme auf dem Minimum verwenden, den das System benötigt. Jason Yosinski, ein Mitarbeiter der Clive, hat ein Instrument geschaffen, das wie eine Sonde im Gehirn funktioniert. Das Instrument richtet sich an einen Neuron in der Mitte des Netzwerks und erfordert ein Bild, das am meisten aktiviert. sind alle abstrakten Bilder (Versuche, eine beeindruckende Darstellung eines Flamingos oder einer Schultasche vorzustellen) und offenbaren die geheimnisvolle Natur der Wahrnehmungskräfte der Maschine.
Ein Berg der Funktionen

Dies sind Hinweise darauf, wie künstliche Intelligenz funktioniert. Sie müssen mehr lernen, aber es ist nicht einfach. Es ist die Interaktion von Berechnungen innerhalb eines tiefen Netzwerks von Neuronen, das komplexere Wissenssysteme und Entscheidungsprozesse bestimmt, aber diese Konten sind ein Labyrinth von Funktionen und mathematischen Variablen. Wenn das Netz zu klein war, könnten wir dekodieren”, sagt Jaakkola. “Aber wenn es zu groß wird, mit Tausenden von Einheiten pro Schicht und Tausenden von Schichten, wird es praktisch unverständlich”.

Im Büro neben dem von Jaakkola arbeitet Regina Barzilay, ein MIT Docente, der beschlossen hat, die automatische Bedeutung der Medizin anzuwenden. 2015 mit 43 Jahren wurde ein Brustkrebs diagnostiziert. Die Diagnose selbst war traumatisch, aber es war noch mehr schockierend ihm zu entdecken, dass statistische Methoden und automatische Bedeutung nicht in der onkologischen Forschung oder in der Auswahl von Therapien verwendet wurden. Barzillai weist darauf hin, dass künstliche Intelligenz die Medizin revolutionieren kann, aber das, um Potenziale zu nutzen, muss über einfache klinische Karten hinaus gehen. Seine Idee ist es, mehr Bruttodaten zu verwenden, die jetzt ein wenig verwendet werden:

“

Nach Beendigung der Therapie haben Barzillai und ihre Studenten mit dem Massachusetts Ärzte General Hospital begonnen, ein System zu entwickeln, das in der Lage ist, Daten von Patientennoten zu produzieren, um diejenigen mit interessanten klinischen Eigenschaften für Forscher zu individualisieren. Aber Barzillai hat erkannt, dass das System seine Gründe erklären muss. So hat er mit Hilfe von Jaackola und einem Studenten einen Durchgang hinzugefügt - das System emittiert und zeichnet repräsentative Passagen einer bestimmten Funktion aus. Darüber hinaus entwickeln Barzillai und ihre Studenten einen Algorithmus, der in der Lage ist, die ersten Anzeichen von Brusttumor in mammographischen Bildern zu enthüllen und dieses System etwas vertretbare Fähigkeit zu geben. Muss ein Teufelskreis finden, in dem das Auto und der Mann zusammenarbeiten”, sagt Barzillai.

Die United States Armed Forces investiert Milliarden in Projekte, die die Nutzung von Fahrzeugen zur Pilotierung von Fahrzeugen und Flugzeugen, Ziele identifizieren und Analysten bei der Filterung großer Datenmengen helfen. Hier gibt es mehr als in jedem anderen Bereich, einschließlich Medizin, wenig Raum für algorithmische Geheimnisse, und das Verteidigungsministerium ist mit der “der grundlegenden <x1-x2> Transparenz beschäftigt. David Gunning, Direktor der Defence Advanced Research Projects Agency (DARPA), eine amerikanische Regierungsbehörde, die in Sicherheitstechnologien investiert, koordiniert ein äußerst geeignetes Programm: Erklärbare Künstliche Intelligenz. Gunning erklärt, die Automatisierung findet in vielen Sektoren der Streitkräfte statt. Geheimdienstanalysten testen den automatischen Sinn, Systeme in der großen Menge von Überwachungsdaten in ihrem Besitz zu individualisieren. Viele Land- und Luftfahrzeuge sind in der Entwicklung und Testphase.

Aber Soldaten, wahrscheinlich, würden sich in Robotertanks nicht wohl wohl fühlen, die nicht in der Lage sind, ihre Entscheidungen zu erklären, und Analysten würden in Abwesenheit eines Schemas der Begründung kaum Informationen verwenden. Aus diesem Grund schaffen diese automatischen Verständnisssysteme oft falsche Alarme, so dass Analysten etwas mehr Element benötigen, um zu verstehen, warum es ein solcher Indikator ist”, sagt Gunning.
Im März hat DARPA 13 akademische und geschäftliche Projekte ausgewählt, um im Rahmen des Programms Gunning zu finanzieren. Einige dieser Projekte können von Carlos Guestrin, Professor an der Washington University, genutzt werden. Die Guestrin Group hat ein System entwickelt, das automatische Verständnissalgorithmen ermöglicht, um ihre Ergebnisse zu rechtfertigen. Grundsätzlich extrahiert der Computer automatisch aus den Beispielen einer Datenreihe und verwendet sie, um eine schnelle Erklärung zu liefern. Zum Beispiel ein System zur Klassifizierung von e - E-Mails von Terroristen verwendet normalerweise verschiedene E-Mails in Prozess und Verständnis und Entscheidung. Und das Washington University System ist in der Lage, einige Schlüsselworte in einer Nachricht zu isolieren. Gastrin und seine Kollegen haben auch ein System gefunden, das es Algorithmen ermöglicht, Bilder zu kennen, um ihr Grundschema zu verstehen, indem sie bedeutendere Stücke eines Bildes erfassen. Das Problem dieser und anderer ähnlicher Systeme, zum Beispiel der Barzillai, ist, dass Erklärungen immer vereinfacht wurden. Das bedeutet, dass einige wichtige Informationen verloren gehen.

Ihr Traum wurde noch nicht realisiert. Ziel ist es, eine künstliche Intelligenz aufzubauen, die in der Lage ist, mit Mensch zu interagieren und sein Verhalten zu erklären”, sagt Guestrin. “Wir sind immer noch weg von einer künstlichen Intelligenz, die wirklich unwirksam ist”. Ich wusste, wie künstliche Intelligenz argumentiert, wäre fundamental, wenn Technologie wirklich ein integraler Bestandteil unseres täglichen Lebens wurde. Tom Gruber, Leiter des Teams, das den virtuellen syrischen Assistenten von Apple entwickelt, sagt, Kommentar ist ein zentrales Ziel seiner Gruppe.

Er und seine Kollegen arbeiten daran, Syrien intelligenter und fähiger zu machen. Gruber spricht nicht über zukünftige Entwicklungen, aber es ist einfach zu denken, dass wir wissen, warum, wenn Syrien uns ein Restaurant berät.

Ruslan Salakhdinov, Leiter der Forschung für Künstliche Intelligenz an der Apple und Associated Professor an der Carnegie Mellon University of Pittsburgh in den USA, ist der Kern des Berichts zwischen Menschen und intelligenten Fahrzeugen. Wie bei menschlichem Verhalten ist künstliche Intelligenz möglicherweise nicht möglich, alles zu vereinfachen, was sie tut. Selbst wenn jemand uns eine Erklärung gibt, die vernünftig erscheint, ermöglicht es, unvollständig zu sein und das gleiche kann künstliche Intelligenz dienen”, sagt Clive. Für seine Natur wird Intelligenz wahrscheinlich nur teilweise erklärt.

Es gibt einen Teil, der nur instinktiv, unfreiwillig, nicht-Student” ist. Wenn dies der Fall ist, werden wir in einem bestimmten Moment entweder künstliche Intelligenz vertrauen müssen, oder wir müssen sie verwenden. Künstliche Intelligenz wird Teil sozialer Intelligenz. Der soziale Vertrag basiert auf einer Reihe von erwarteten Positionen und daher müssen künstliche Intelligenzssysteme entwickelt werden, um sich an unsere sozialen Normen anzupassen. Wenn wir wirklich Robotertanks und andere Autos bauen, die in der Lage sind, zu töten, ist es unerlässlich, dass ihre Entscheidungsprozesse mit unseren ethischen Entscheidungen übereinstimmen.

Enzyklopädie Verkehre

Ich ging an die Boston Tufts University, wo ich Philosoph Daniel Dentt traf. Ein Kapitel seines letzten Buchs “Von Bakterien zu Bach und zurück”, einer Art von Enzyklopädie Gewissensvertrag, spekuliert, dass einige der Evolution der Intelligenz die Schaffung von Systemen sein wird, die in der Lage sind, Aktivitäten zu entwickeln, die jeder, der sie geschaffen hat, nicht tun kann. Die Frage ist: Welche Maßnahmen sollten wir ergreifen, um die Dinge ruhig zu tun, welche Standards sollten wir für diese Systeme und uns selbst fragen?”, fragt der Philosoph.

Dennett warnt daher vor den Risiken, die mit der Erforschung der Exeruation verbunden sind. Wenn wir diese Maschinen verwenden müssen und ihnen maximale Kontrolle darüber geben müssen, wie und warum sie auf uns reagieren, sagt er. Aber da es wohl keine perfekten Antworten gibt, müssen wir verhindern, dass wir künstliche Intelligenz Erklärungen vertrauen, wie wir die von uns mögen nicht vertrauen, egal wie intelligent das Auto wäre. “Wenn künstliche Intelligenz nicht besser zu erklären ist als das, was sie tut”, schließt sie ab, “then sollten wir nicht glauben”.
(Will Knight for MIT Technology Review)