L'umanità è in pericolo?

Ma c'era qualcosa di completamente diverso sui modelli di Google, Tesla e General Motors, dimostrando l'aumentata potenza dell'intelligenza artificiale. L'auto di Navia non seguiva le istruzioni di un ingegnere o di un programmatore, ma si fidava completamente di un algoritmo che aveva imparato a guidare osservando un essere umano. La progettazione di una macchina di questo tipo è un'impresa straordinaria ma inquietante, in quanto non è del tutto chiaro come la macchina prende le sue decisioni.

Informazioni registrate dai sensori su una grande rete di neuroni artificiali che elaborano i dati e forniscono istruzioni necessarie per l'uso della ruota, dei freni e di altri sistemi. I risultati sembrano simili al comportamento previsto da un autista nella carne e nelle ossa. Ma cosa succederebbe se un giorno l'auto facesse una mossa inaspettata, come andare e schiantarsi in un albero o fermarsi con la luce verde? Nella situazione attuale, sarebbe molto difficile capire perché è successo. Il sistema è così complicato che anche gli ingegneri di design hanno trovato difficile individualizzare motivi all'origine della decisione. È anche impossibile chiedere una spiegazione delle auto: non c'è alcun criterio specifico per progettare il sistema in modo che possa spiegare perché fa ciò che fa.

Pensavo che il pensiero misterioso di questa macchina porta ad una domanda aperta sull'intelligenza artificiale. La tecnologia sottostante, conosciuta come la lezione profonda, è stata molto efficace negli ultimi anni nella risoluzione dei problemi ed è stata spesso utilizzata per scopi come la traduzione, il riconoscimento vocale e la selezione delle immagini. Si prevede ora che le stesse tecniche saranno in grado di diagnosticare malattie mortali, fare milioni di investimenti e rivoluzionare interi settori industriali. Ma tutto questo non sarebbe accaduto (o almeno non dovrebbe accadere) se non ci sarebbe stato un modo per fare tecniche come dep insegnamento più comprensibile ai loro creatori e le responsabilità principali per quello che usano.

Altrimenti sarà difficile prevedere quando ci saranno problemi quando saranno inevitabili. Non per caso, l'auto di Navia è ancora in fase sperimentale. Oggi, i modelli matematici sono già utilizzati negli Stati Uniti per selezionare, ad esempio, chi può ottenere la libertà controllata, chi può prendere in prestito un prestito, e chi dovrebbe essere impiegato per un lavoro. Entrando in questi modelli, si può capire il loro modo di ragionare.

Recentemente, tuttavia, le banche, gli eserciti, le imprese e altri soggetti prestano attenzione a nuovi complessi sistemi di controllo automatico che sono a rischio di rendere completamente impervious processi decisionali automabili. Deep Learning, il sistema più popolare, è un modo completamente nuovo di computer di programmazione. “Qych è ora un problema importante e sarà molto di più in futuro”, nota Tommi Jaakkola, professore del Massachusetts Institute of Technology (MIT) che lavora per applicazioni di comprensione automatica.

Per qualsiasi decisione nel campo finanziario, medico o militare, non si può credere solo a una scatola nera, cioè, un sistema per capire gli eventi solo con le cose finite. Si sottolinea già che la possibilità di ricercare l'intelligenza artificiale come raggiunto nelle conclusioni percepite dovrebbe essere garantita dalla legge.

Entro l'estate del 2018, l'Unione Europea potrebbe imporre alle aziende l'obbligo di spiegare ai clienti le decisioni prese dai sistemi automatizzati. Forse si tradurrà in un'impresa impossibile, anche per i sistemi che a prima vista relativamente semplice, come applicazioni e siti web che utilizzano un avvertimento profondo per la pubblicità o per raccomandare playlist con canzoni. I computer che gestiscono questi servizi sono programmati e nessuno è in grado di capire come lo fanno. Neanche gli ingegneri che hanno sviluppato le app.

Tutto questo apre una serie di domande difficili. Con la tecnologia avanzata prima o poi, una soglia oltre la quale l'uso dell'intelligenza artificiale richiederà un atto di fiducia. È anche vero che noi esseri umani a volte non siamo in grado di spiegare i nostri problemi mentali, ma a volte ci fidiamo della nostra intuizione per valutare le persone e decidere se crederle o meno.

Saranno in grado di farlo con macchine che pensano e prendono decisioni in modo diverso dagli esseri umani? Mai prima erano auto costruite in grado di fare cose intelligibili anche da coloro che li hanno creati. Come intendiamo comunicare e concordare con macchine intelligenti che possono portare a imprevedibili e inadeguati? Queste domande mi hanno spinto a fare un viaggio alla ricerca più avanzata sull'intelligenza artificiale, da Google a Apple, tra cui un incontro con uno dei grandi filosofi della nostra età.

Recensione clinica

Nel 2015, un gruppo di ricerca del Mount Sinai Hospital di New York, ha deciso di applicare una profonda lezione al database ospedaliero, che include centinaia di informazioni sui pazienti, dai risultati degli esami clinici alle visite mediche. C'era un programma, chiamato Deep Patent, che è stato progettato per utilizzare i dati di circa 7.000 perdite. Dove è testato su nuovi pazienti, è stato estremamente efficace nel predire la patologia. Senza alcuna guida da parte degli specialisti, Deep Patent ha scoperto elementi ripetuti all'interno dei registri ospedalieri che erano possibili prevedere quando una persona era più esposta a una serie di malattie, tra cui tumori nel fegato di Montenegrin.

Ci sono ottimi metodi di predizione delle malattie dalla scheda clinica del paziente, dice Joel Dudley, responsabile del gruppo di ricerca dell'ospedale del Monte Sinai. Ma questo, aggiunge, “works molto meglio di”. In molti modi, tuttavia, Deep Patent è un mistero. Ad esempio, è in grado di prevedere sorprendentemente bene la visualizzazione di preoccupazioni psichiatriche come il lavoro del diagramma. Non appena il profilo è difficile da prevedere, Dudley ha chiesto come era possibile. Non ha ancora trovato una risposta. Deep Patent non offre indicatori correlati. Per fornire assistenza reale ai medici, uno strumento deve fornire una spiegazione razionale della sua previsione, fornire una rassicurazione accurata, e forse giustificare l'uso di vari farmaci da coloro che si sono dati fino a quel punto. Noi sappiamo come costruire questi modelli, ma non sappiamo come utilizzare i tasti di comando, dice triste Dudley.

L'intelligenza artificiale non ha sempre funzionato così. Fin dall'inizio, ci sono state due scuole di pensiero su come comprensibile o esplicativo dovrebbe essere. Per molti, la cosa più significativa è stato quello di costruire automobili a ragionare su una serie di regole e logica, rendendo il loro funzionamento trasparente a chiunque voglia considerare il codice. Altri hanno sottolineato che, infatti, l'intelligenza si svilupperebbe più facilmente se avessero seguito l'esempio della biologia, imparando dall'osservazione e dall'esperienza.

Ciò significava completamente ribaltare la programmazione del computer. Non era con il programmatore che scriveva i comandi per risolvere un problema, ma era il programma che specificava l'algoritmo stesso sulla base degli esempi e dei risultati desiderati. Le tecniche di comprensione automatica che si sono evolute nei sistemi molto potenti dell'intelligenza artificiale moderna hanno seguito il secondo corso: In sostanza, la macchina è programmata da sola. All'inizio, questo metodo aveva applicazione pratica limitata, e nel 1960 ' s e settanta ' s, i margini sono rimasti.

Poi, la computerizzazione di molti settori industriali e il rilascio di grandi serie di dati hanno rinnovato interesse. Tutto questo ha portato allo sviluppo di tecniche automatiche più evolute e soprattutto nell'evoluzione della tecnologia conosciuta come la rete artificiale dei neuroni. Dal momento che il Ninth ' s, le reti erano in grado di capire i personaggi scritti a mano.

Ma solo all'inizio dell'ultimo decennio, dopo vari aggiustamenti e raffinazioni, le grandi reti di neuroni (o <x0) le reti profonde di neuroni” hanno fornito prove di miglioramenti sostanziali nella percezione automatica. Il merito dell'attuale esplosione dell'intelligenza artificiale è l'insegnamento profondo, che ha dato ai computer capacità straordinarie: ad esempio, la conoscenza del linguaggio parlato quasi come persona nella carne e nelle ossa, una capacità altamente complessa di codificarlo in auto.

Il profondo avvertimento ha trasformato la visione artificiale e migliorato sostanzialmente la traduzione informale. Oggi, è utilizzato per decisioni importanti di qualsiasi tipo in medicina, finanza, produzione e altri settori. La funzione delle tecnologie di comprensione automatica è essenzialmente più opaca dei sistemi basati su linee scritte da un programmatore. Questo non significa che tutte le future tecnologie di intelligenza artificiale saranno altrettanto intelligibili. Ma, per sua natura, l'avvertimento profondo è estremamente scuro “kkt

Non basta guardare dentro una rete di neuroni per capire come funziona. Lo schema di ragionamento di una rete è incorporato nel comportamento di migliaia di neuroni simulati, organizzati in decine o fino a centinaia di strati strati. Ogni neurone nel primo strato ottiene un input per esempio l'intensità di un pixel di un'immagine e rende un account prima di emettere nuovi segnali. A sua volta, questi sono stati trasferiti attraverso una complessa rete di neuroni in un altro strato e così via fino a quando non sono raggiunti con un risultato complesso.

Tutto questo aggiunge ad un processo noto come back-propagate che influisce sui calcoli specifici dei neuroni per consentire alla rete di imparare come viene fornito un determinato risultato. Le molte sezioni che compongono una rete profonda permettono alla rete stessa di conoscere informazioni a diversi livelli di astrazione. Ad esempio, un sistema progettato per riconoscere i cani, lo strato inferiore conosce informazioni di base come jack e colori, gli strati superiori conoscono caratteristiche più complesse come capelli e occhi, e lo strato più alto conosce l'insieme di informazioni - il cane. Lo stesso sistema, semplificandolo, si applica ad altri ingressi che rendono l'auto a imparare da sé - i suoni che formano le parole in questione, le lettere, e le labbra che compongono l'interno di una chiave o il movimento del volante necessario per guidare.

Sistemi molto sofisticati sono stati utilizzati per scoprire in dettaglio cosa succede in questi sistemi. Nel 2015, i ricercatori di Google hanno modificato un algoritmo per il riconoscimento di immagini basate sull'insegnamento profondo in modo che invece di riconoscere oggetti nelle foto, sarebbe in grado di generare o modificare. Infatti, applicando l'algoritmo inverso, i ricercatori sono stati in grado di rilevare informazioni che il programma utilizzato, per esempio, per una conoscenza con un uccello o una casa. Le immagini risultanti, prodotte da un sistema chiamato Deep Dream, mostrano animali gratastic, simili agli alieni, uscendo da nuvole o alberi e pagoda allucinante che emergono da foreste o catene montuose. Le immagini mostrano che l'insegnamento profondo non è sempre del tutto intelligibile e rivelano che, per riconoscere gli uccelli, gli algoritmi mirano automaticamente a caratteristiche visibili come becchi e fucili.

Ma le immagini ti rendono conto di quanto sia differente la lezione è dalla percezione dell'essere umano, a partire dal fatto che estrae elementi da informazioni che cerchiamo di ignorare completamente. Google ricercatori hanno notato, per esempio, che quando l'algoritmo genera l'immagine di un sollevamento pesi, crea anche quello di un braccio che lo tiene. La conclusione dell'auto è che il braccio è tutto un pezzo di shock. Altri progressi possono provenire da neuroscensione e scienza cognitiva. Un team di ricerca guidato da Jef Clune, assistente della Wyoming University, ha usato l'equivalente di illusioni ottiche nel campo dell'intelligenza artificiale per testare i neuroni profondi.

2015 Clive ha dimostrato che alcune immagini possono spingere la rete che percepisce cose che non esistono, come le immagini utilizzano schemi di riconoscimento al livello minimo che il sistema richiede. Jason Yosinski, un socio del Clive, ha creato uno strumento che funziona come una sonda nel cervello. Lo strumento mira un neurone al centro della rete e richiede un'immagine che attiva di più. sono tutte immagini astratte (prova di immaginare una rappresentazione impressionante di un fenicottero o una borsa scolastica) e rivelare la natura misteriosa dei poteri percettivi della macchina.
Una montagna di funzioni

Queste sono indicazioni su come funziona l'intelligenza artificiale. Devi imparare di più, ma non è facile. È l'interazione dei calcoli all'interno di una rete profonda di neuroni che determina più complessi sistemi di conoscenza e processi decisionali, ma questi conti sono un labirinto di funzioni e variabili matematiche. Se la griglia fosse troppo piccola, potremmo decodificare l'Habitax0>, Jaakkola dice. Traduzione: Ma quando diventa troppo grande, con migliaia di unità per strato e migliaia di strati, diventa praticamente intelligibile

Nell'ufficio accanto a quello di Jaakkola lavora Regina Barzilay, un MIT Docente che ha deciso di applicare il significato automatico della medicina. Nel 2015, a 43 anni di età, è stato diagnosticato un tumore al seno. La diagnosi stessa era traumatica, ma è stato ancora più scioccante per lui scoprire che i metodi statistici e il significato automatico non sono stati utilizzati nella ricerca oncologica o nella selezione delle terapie. Barzillai sottolinea che l'intelligenza artificiale può rivoluzionare la medicina, ma che per sfruttare i potenziali deve andare oltre semplici schede cliniche. La sua idea è quella di utilizzare dati più lordi che ora vengono utilizzati un po':

Traduzione:

Dopo la fine della terapia, Barzillai e i suoi studenti hanno iniziato a lavorare con i medici del Massachusetts General Hospital per sviluppare un sistema in grado di produrre dati dalle note dei pazienti per personalizzare quelli con caratteristiche cliniche interessanti per i ricercatori. Ma Barzillai ha capito che il sistema deve essere in grado di spiegare i suoi ragionamenti. Così, con l'aiuto di Jaackola e uno studente, ha aggiunto un passaggio - il sistema emette e registra passaggi rappresentativi di una certa caratteristica. Inoltre, Barzillai e i suoi studenti stanno sviluppando un algoritmo di insegnamento profondo in grado di rivelare i primi segni di tumore al seno in immagini mammografiche e mirando a dare a questo sistema una capacità giustificabile del suo ragionamento. Deve trovare un circolo vizioso in cui l'auto e l'uomo cooperano con ipnox0>, dice Barzillai.

Le Forze Armate degli Stati Uniti stanno investendo miliardi di progetti che prevedono l'uso di veicoli per veicoli pilota e veicoli volanti, identificano gli obiettivi e aiutano gli analisti a filtrare grandi quantità di dati. Qui più che in qualsiasi altro campo, compresa la medicina, c'è poco spazio per i misteri algoritmici, e il Dipartimento della Difesa è occupato con la “la trasparenza di base <x1-x2>. David Gunning, direttore di Defence Advanced Research Projects Agency (DARPA), un'agenzia governativa americana che investe nelle tecnologie di sicurezza, coordina un programma estremamente appropriato: Explainable Artificial Intelligence. Gunning spiega che l'automazione si svolge in molti settori delle forze armate. Gli analisti dei servizi segreti stanno testando il senso automatico di personalizzare i sistemi nella grande quantità di dati di sorveglianza in loro possesso. Molti veicoli terrestri e aerei sono in fase di sviluppo e test.

Ma i soldati, probabilmente, non si sentirebbero a proprio agio in serbatoi robotizzati che non sono in grado di spiegare le loro decisioni, e gli analisti difficilmente userebbero le informazioni in assenza di uno schema di ragionamento. Per questo motivo, questi sistemi di comprensione automatica spesso creano falsi allarmi, quindi gli analisti hanno bisogno di un altro elemento per capire perché è un tale indicatore di assunzione, dice Gunning.
Nel mese di marzo DARPA ha selezionato 13 progetti accademici e di business per finanziare sotto il programma di Gunning. Alcuni di questi progetti possono essere utilizzati da Carlos Guestrin, un professore all'Università di Washington. Il Gruppo Guestrin ha sviluppato un sistema che consente algoritmi di comprensione automatica per giustificare i loro risultati. Fondamentalmente, il computer estrae automaticamente dagli esempi di una serie di dati e li utilizza per fornire una spiegazione rapida. Ad esempio, un sistema progettato per classificare e - mail da terroristi utilizza normalmente diverse email nel processo e nella comprensione e nella decisione. E il sistema di Washington University è in grado di isolare alcune parole chiave in un messaggio. Guestrin e i suoi colleghi hanno anche trovato un sistema che consente agli algoritmi di conoscere le immagini per capire il loro schema di ragionamento registrando pezzi più significativi di un'immagine. Il problema di questo e di altri sistemi simili, ad esempio, quello di Barzillai è che le spiegazioni sono sempre state semplificate. Ciò significa che alcune informazioni importanti sono perse.

Il tuo sogno non e' ancora stato realizzato. L'obiettivo è quello di costruire un'intelligenza artificiale capace di interagire con l'essere umano e spiegare il suo comportamento, dice Guestrin. Traduzione: Siamo ancora lontani da un'intelligenza artificiale che è veramente ineffabile Sapevo che l'intelligenza artificiale sarebbe stata fondamentale se la tecnologia fosse davvero parte integrante della nostra vita quotidiana. Tom Gruber, capo della squadra che sta sviluppando l'assistente siriano virtuale di Apple, dice che il commento è un obiettivo chiave del suo gruppo.

Lui e i suoi colleghi stanno lavorando per rendere la Siria più intelligente e capace. Gruber non parla di sviluppi futuri, ma è facile immaginare che se la Siria ci consiglia un ristorante, vorremmo sapere perché.

Ruslan Salakhdinov, direttore della Ricerca sull'Intelligenza Artificiale presso Apple e Professore Associato alla Carnegie Mellon University di Pittsburgh negli Stati Uniti, considera il cuore del rapporto tra esseri umani e veicoli intelligenti. Come nel comportamento umano, l'intelligenza artificiale potrebbe non essere possibile semplificare tutto ciò che fa. Anche se qualcuno ci dà una spiegazione che sembra ragionevole, permette di essere incompleto e lo stesso può servire l'intelligenza artificiale”, dice Clive. Per la sua natura, l'intelligenza è probabilmente razionalmente solo parzialmente spiegato.

C'e' una parte che e' solo istintiva, involontariamente, non sostituta... Se le cose sono così, in un certo momento o dovremo fidarci dell'intelligenza artificiale, o dovremo rinunciare a usarlo. L'intelligenza artificiale diventerà parte dell'intelligenza sociale. Il contratto sociale si basa su una serie di posizioni attesi e quindi i sistemi di intelligenza artificiale dovranno essere progettati per adattarsi alle nostre norme sociali. Se costruiamo davvero carri armati robot e altre auto capaci di uccidere, è essenziale che i loro processi decisionali siano coerenti con i nostri giudizi etici.

Traffici enciclopedici

Sono andato alla Boston Tufts University, dove ho incontrato il filosofo Daniel Dentt. Un capitolo del suo ultimo libro “Dal batterio a Bach e all'indietro, un trattato di coscienza dell'enciclopedia, specula che alcune delle evoluzioni dell'intelligenza saranno la creazione di sistemi capaci di sviluppare attività che chiunque li abbia creati non può fare. La domanda è: quali misure dovremmo prendere per fare le cose con calma, quali standard dovremmo chiedere per questi sistemi e noi stessi?

Dennett avverte così i rischi associati alla ricerca di estensione. Se dobbiamo usare queste macchine e dobbiamo dare loro il massimo controllo su come e perché ci rispondono, dice. Ma visto che probabilmente non ci sono risposte perfette, dobbiamo evitare di fidarci di spiegazioni di intelligenza artificiale come non ci fidiamo di quelli che ci piacciono, non importa quanto sarebbe intelligente l'auto. Traduzione: Se l'intelligenza artificiale non è in grado di spiegare meglio di ciò che lo fa, si conclude, “quindi non dovremmo credere a П3> .
(Sacro Cavaliere per MIT Technology Review)