L'intelligenza artificiale a volte inventa le cose può risolvere questo problema?

Trascorrere molto tempo usando ChatGPT, o “chatbot” di intelligenza artificiale e non ci vorrà molto tempo per rendersi conto che stanno dicendo bugie.

Descritto come allucinazioni, false informazioni, o l'invenzione delle cose, questi sono ora diventati un problema per ogni business, organizzazione e studente delle scuole superiori utilizzando sistemi di generazione di intelligenza artificiale per sviluppare documenti. Alcuni utilizzano sistemi di intelligenza artificiale per compiti che potenzialmente hanno conseguenze importanti, che vanno dalla psicoterapia alla ricerca sulla redazione di documenti legali.

Non credo che si possa trovare alcun modello oggi che non soffre di alcuna allucinazione”, ha detto Daniela Amodei, cofondatore e leader dell'Antropico, creativo “chatbot Claude 2.

“[ I Chatbots sono progettati per prevedere la prossima parola, ad esempio, ad Amodei. Traduzione: Pertanto, c'è un grado in cui il modello fa questo erroneamente”.

Antropica, la società fondatrice di ChatGPT, OpenAI e altri principali sviluppatori di sistemi di intelligenza artificiale, noto anche come modelli linguistici principali, hanno detto che stanno lavorando per rendere questi sistemi più affidabili.

Quanto tempo ci vorrà e se sono abbastanza buoni da essere considerati sicuri per la consulenza medica, rimane da vedere.

Questo non può essere risolto”, ha detto Emily Bender, professore di linguistica e leader del Computer Linguistics Laboratory presso la Washington University. “è una differenza tra la tecnologia e i casi in cui viene utilizzata la tecnologia

Molti si affidano all'affidabilità della tecnologia di generazione dell'intelligenza artificiale. Il McKinsey World Institute prevede che questa tecnologia aggiungerà l'economia mondiale ad un equivalente di 2,6 trilioni a 4,4 trilioni di dollari. <x) Quasi tutti questi strumenti includono diversi componenti linguistici.

Google ha solo iniziato a presentare un prodotto di intelligenza artificiale che scrive notizie alle organizzazioni dei media, ed è per questo che l'accuratezza è fondamentale. Anche la Associated Press esamina l'accesso alla tecnologia come parte della sua partnership con OpenAI, che sta pagando per utilizzare alcuni dei testi Associated Press per migliorare il suo sistema di intelligenza artificiale.

In collaborazione con gli istituti di gestione alberghieri in India, lo scienziato informatico Ganesh Bagler lavora da anni per ottenere sistemi di intelligenza artificiale, tra cui un predecessore del ChatGPT, al fine di creare nuove ricette per la cucina sud-asiatica. Un singolo componente “halinant” può fare la differenza tra un cibo saporito e immateriale.

Quando il capo dell'OpenAI Sam Altman visitò l'India nel mese di giugno, Bagler, che è un professore presso l'Indrapasthra Institute for Information Technology in Dehli, ha sollevato diverse domande.

“Penso che le allucinazioni in ChatGPT siano ancora accettabili, ma quando una ricetta è influenzata da questo, allora si trasforma in un grosso problema”, Bagler ha detto, come ha chiesto Almat ad un evento a Nuova Delhi.

Traduzione:

Altman ha espresso ottimismo sul fatto che questo problema potrebbe essere risolto.

Credo che miglioreremo notevolmente il problema dell'allucinazione, ha detto Altman. Credo ci vorra' un anno e mezzo, due anni. Qualcosa del genere. Ma poi non parleremo di questi problemi. Ci sarà un equilibrio tra creatività e precisione perfetta e il modello deve essere imparato quando vogliamo uno, o l'altro”.

Ma per alcuni esperti che studiano tecnologia, come il linguistico Bender della Washington University, questi miglioramenti non saranno sufficienti.

Bender ha descritto il modello di lingua come un sistema per linee di modellazione “di parole, offrendo alcuni dati scritti su cui il modello è formato.

Questo è il modo in cui i programmi di controllo ortografico sono in grado di scoprire se una parola è scritta in modo errato. Questo modello aiuta anche a rafforzare i servizi di traduzione automatica e di traslitterazione, “facendo apparire il risultato più simile a un testo tipico in una lingua particolare”, Bender ha detto. Molte persone si affidano a una versione di questa tecnologia ogni volta che utilizzano il “autocomplete” quando si inviano messaggi o e-mail.

Ma, i “chatbots -- l'ultimo”, come ChatGPT, Claude 2 o quel Bard di Google Company -- tendono ad andare un passo avanti, generando nuovi paragrafi tessili. Tuttavia, Bender ha detto questi “chatbot” selezionare costantemente solo parole più affidabili per unificare la frase.

Quando vengono utilizzati per generare testi, i modelli di lingua “sono progettati per inventare le cose. Questo è tutto ciò che fa a Žx1>, Bender ha detto. Questa tecnologia dell'intelligenza artificiale è buona per imitare forme di scrittura, contratti legali e script software televisivi.

Ma dato che questi modelli inventano le cose, quando il testo che crea si rivela essere qualcosa che consideriamo accurato, è una coincidenza che sia il nome di \x0>, Bender ha detto. Traduzione: Anche se programmato per essere più accurato, ci sono ancora modi in cui possono fallire, e i fallimenti probabilmente si verificheranno quando è più difficile per una persona che legge il testo per annotarli

USA, UE cooperare nella revisione dell'intelligenza artificiale

Questi errori non sono un grosso problema per le aree di marketing che hanno richiesto servizi di Jasper AI per scrivere idee, ha detto il presidente dell'azienda Shane Orlick.

“Hakcinations sono in realtà un ulteriore legame di”, Orlick ha detto. Traduzione: Abbiamo consumatori che tutto il tempo ci mostrano come sono venuti a idee, come Jasper li gestisce da angoli diversi, il modo in cui non si penseranno mai ad assumere la stessa posizione.

Questo quartier generale del Texas inizia a collaborare con aziende come Open It, Anthropic, Google o Facebook, per offrire ai consumatori una serie di modelli linguistici di intelligenza artificiale per le loro esigenze. Per qualcuno interessato alla precisione, questo start-up offre il modello antopico, nel frattempo, per qualcuno interessato alla sicurezza dei loro dati di origine è offerto un altro modello, Orlick ha detto.

Orlick ha detto che sa che le allucinazioni possono facilmente migliorare. Si aspetta da aziende come Google, che secondo lui, “avere elevati standard per accurato 48x1> per la sua macchina di ricerca di lavorare per trovare la soluzione a questo problema.

Credo che possano risolvere questo problema, ha detto Orlick. Traduzione: Devono affrontarlo. Non so se sarà mai perfetto, ma credo che aumenterà costantemente l'Hex2>.

Gli ottimisti tecnologici, come il cofondatore Microsoft Bill Gates, hanno previsto un futuro ottimista.

“Sono ottimista che nel corso del tempo i modelli di intelligenza artificiale possono essere insegnati a distinguere la verità dalla falsità”, Gates ha detto in un post di luglio sui suoi pensieri riguardo ai pericoli nella società che presentano l'intelligenza artificiale.

Come sarà l'Europa protetta dai pericoli dell'intelligenza artificiale?

Ha citato un testo del 2022 dell'Open Hei come esempio “che ci sarà un buon lavoro in questa direzione Infine, i ricercatori del Federal Institute for Technology di Cyril, in Svizzera, hanno detto di aver sviluppato un metodo per rilevare alcuni, ma non tutti, il contenuto allucinante di ChatGPT, e, secondo loro, il metodo rimuoverà automaticamente questo contenuto.

Ma anche Altman, che crea prodotti per vari usi, non si aspetta che i modelli siano veri se chiede informazioni.

Forse credo che le risposte che ricevo da ChatGPT tanto quanto chiunque sulla Terra crede sia l'abbreviazione, Altman ha detto durante l'incidente tenuto in un'università a Nuova Delhi. / REL