Künstliche Intelligenz entdeckt manchmal Dinge, können dieses Problem behoben werden?

Verbringen Sie viel Zeit mit ChatGPT oder “chatbot” der künstlichen Intelligenz und es wird nicht lange dauern, um zu erkennen, dass sie Lügen erzählen.

Beschreibt als Halluzinationen, falsche Informationen oder Erfindung von Dingen, sind diese jetzt ein Problem für jedes Unternehmen, Unternehmen und High-School-Student mit künstlicher Intelligenz-System, um Dokumente zu entwickeln. Einige verwenden künstliche Intelligenzssysteme für Aufgaben, die möglicherweise große Konsequenzen haben, von der Psychotherapie bis zur Erforschung der Ausarbeitung von Rechtsdokumenten.

Ich glaube nicht, Sie können heute jedes Muster finden, das nicht von Halluzinationen leidet”, sagte Daniela Amodei, Mitbegründer und Leiter der Anthropic, Creative “chatbot” Claude 2.

“[Die Chatbots sind entworfen, um das nächste Wort” vorherzusagen, sagte Amodei. “Daher gibt es einen Grad, in dem das Modell dies falsch tut”.

Anthropic, die Gründungsfirma von ChatGPT, OpenAI und anderen großen Entwicklern von künstlichen Intelligenzssystemen, auch bekannt als wichtige Sprachmodelle, haben gesagt, sie arbeiten daran, diese Systeme zuverlässiger zu machen.

Wie lange wird dies dauern und wenn sie gut genug sind, um als sicher für medizinische Beratung zu gelten, bleibt es zu sehen.

Dies kann nicht behoben werden”, sagte Emily Bender, Professorin für Linguistik und Leiter des Computer Linguistics Labors an der Washington University. “ist ein Unterschied zwischen Technologie und den Fällen, in denen Technologie” verwendet wird.

Viele verlassen sich auf die Zuverlässigkeit der Technologie der künstlichen Intelligenz. Das McKinsey World Institute prognostiziert, dass diese Technologie die Weltwirtschaft zu einem Äquivalent von 2,6 Billionen $ auf 4,4 Billionen $ hinzufügen wird. <x) Fast alle diese Tools umfassen mehrere Sprachkomponenten.

Google hat nur begonnen, ein künstliches Intelligenzprodukt zu präsentieren, das Nachrichten an Medienorganisationen schreibt, und deshalb ist Genauigkeit von größter Bedeutung. Die Associated Press untersucht auch den Zugang zur Technologie im Rahmen ihrer Partnerschaft mit OpenAI, die einige der zugehörigen Pressetextarchive zur Verbesserung des künstlichen Intelligenzsystems verwendet.

In Zusammenarbeit mit Hotels-Management-Instituten in Indien arbeitet der Informatiker Ganesh Bagler seit Jahren daran, künstliche Intelligenzssysteme zu erhalten, darunter ein Vorgänger des ChatGPT, um neue Rezepte für südasiatische Küche zu erstellen. Eine einzelne “halinant” Komponente kann den Unterschied zwischen einem schmackhaften und immateriellen Essen machen.

Als OpenAI-Chef Sam Altman im Juni Indien besuchte, erhob Bagler, der Professor am Indrapasthra Institut für Informationstechnologie in Dehli, mehrere Fragen.

“Ich denke, Halluzinationen in ChatGPT sind noch akzeptabel, aber wenn ein Rezept davon betroffen ist, dann wird es zu einem großen Problem”, Bagler sagte, wie er Almat bei einer Veranstaltung in Neu-Delhi fragte.

“

Altman drückte Optimismus aus, dass dieses Problem behoben werden könnte.

Ich denke, wir werden das Halluzinationsproblem”, Altman sagte: “Ich denke, es wird uns ein Jahr und eine halbe, zwei Jahre dauern. Etwas wie das. Aber dann werden wir nicht über diese Probleme sprechen. Es wird ein Gleichgewicht zwischen Kreativität und perfekter Präzision und das Modell muss gelernt werden, wenn wir wollen, oder das andere”.

Aber für einige Experten, die Technologie studieren, wie zum Beispiel Spracher Bender von der Washington University, werden diese Verbesserungen nicht ausreichen.

Bender beschrieb das Sprachmodell als ein System für “Modellierung Zeilen von Worten” und bietet einige schriftliche Daten an, auf denen das Modell ausgebildet wird.

Dies ist, wie Rechtschreibprüfungsprogramme herausfinden können, ob ein Wort falsch geschrieben ist. Dieses Modell hilft auch, die automatischen Übersetzungs- und Übersetzungsdienste zu stärken, “das Ergebnis erscheint wie ein typischer Text in einer bestimmten Sprache”, sagte Bender. Viele Menschen verlassen sich jedes Mal auf eine Version dieser Technologie, wenn sie die “Autocomplete” verwenden, wenn sie Nachrichten oder E-Mails versenden.

Aber die “chatbots -- die letzten”, wie ChatGPT, Claude 2 oder das Bard von Google Company - neigen dazu, einen Schritt weiter zu gehen und neue textile Absatze zu generieren. Allerdings sagte Bender, diese “chatbot” wählen ständig nur zuverlässigere Wörter aus, um den Satz zu vereinheitlichen.

Wenn sie verwendet werden, um Texte zu erzeugen, sind Sprachmodelle “für die Erfindung von Dingen konzipiert. Das ist alles, was es tut”, sagte Bender. Diese Technologie der künstlichen Intelligenz ist gut für die Simulation von Formen von Schreib-, Rechtsverträgen und Fernsehsoftware- scriptn.

Aber da diese Modelle Dinge nur inventieren, wenn der Text, der sich herausstellt, etwas zu sein, das wir als richtig betrachten, es ist Zufall”, sagte Bender. “Auch wenn programmiert, genauer zu sein, gibt es immer noch Wege, in denen sie scheitern können, und Fehler werden wahrscheinlich auftreten, wenn es für eine Person schwieriger ist, die den Text liest, um sie zu beachten”.

US, EU kooperiert in der künstlichen Intelligenz-Überholung

Diese Fehler sind kein großes Problem für Marketing-Bereiche, die Jasper AI-Dienste zur Schreib von Ideen benötigen, sagte Firmenpräsident Shane Orlick.

“Hakcinations sind eigentlich eine zusätzliche” Bindung, sagte Orlick. “Wir haben Verbraucher, die uns die ganze Zeit zeigen, wie sie zu Ideen gekommen sind, wie Jasper sie aus verschiedenen Blickwinkeln behandelt, die Art und Weise, wie sie sich nie denken würden”.

Dieser Hauptsitz in Texas startet mit Unternehmen wie Open It, Anthropic, Google oder Facebook zusammen, um den Verbrauchern eine Reihe von sprachlichen Modellen künstlicher Intelligenz für ihre Bedürfnisse anzubieten. Für jemanden, der über die Genauigkeit besorgt ist, bietet dieses Start-up das Anthhopische Modell, mittlerweile für jemanden, der über die Sicherheit ihrer Quelldaten besorgt ist, ein anderes Modell, Orlick gesagt.

Orlick sagte, er weiß, Halluzinationen können leicht verbessern. Er erwartet von Unternehmen wie Google, die nach ihm “hohe Standards für genaue 48x1> für seine Forschungsmaschine haben, um daran zu arbeiten, die Lösung zu diesem Problem zu finden.

Ich denke, sie können dieses Problem beheben”, Orlick sagte. “Sie müssen das ansprechen. Ich weiß nicht, ob es immer perfekt sein wird, aber ich glaube, es wird ständig verbessern”.

Technologieoptimierungen, wie Microsoft-Unternehmens Mitbegründer Bill Gates, haben eine optimistische Zukunft vorausgesagt.

“Ich bin optimistisch, dass im Laufe der Zeit künstliche Intelligenz Modelle gelehrt werden können, um die Wahrheit von Falschheit zu unterscheiden”, sagte Gates in einem Juli-Post über seine Gedanken über die Gefahren in der Gesellschaft, die künstliche Intelligenz darstellen.

Wie wird Europa vor Gefahren der Künstlichen Intelligenz geschützt?

Er zitierte 2022 einen Text des Open Hei als Beispiel “, dass es gute Arbeit in dieser Richtung geben wird”. Schließlich haben Forscher am Bundesinstitut für Technologie in Cyril (Schweiz) eine Methode entwickelt, um einige, aber nicht alle, die halluzinierenden Inhalte von ChatGPT zu erkennen, und entsprechend wird die Methode diesen Inhalt automatisch entfernen.

Aber auch Altman, der Produkte für verschiedene Anwendungen erstellt, erwartet nicht, dass Modelle wahr sind, wenn er Informationen fragt.

Vielleicht glaube ich, die Antworten, die ich von ChatGPT erhalten habe, so viel wie jemand auf der Erde glaubt”, sagte Altman während des Vorfalls an einer Universität in Neu-Delhi. / REL