Künstliche Intelligenz erfindet Dinge - kann dieses Problem behoben werden?

Verbringen Sie viel Zeit mit ChatGPT, oder “chatbot” künstlicher Intelligenz und es wird nicht lange dauern, um zu erkennen, dass sie Lügen erzählen.

Als Halluzinationen, falsche Informationen oder Erfindungen von Dingen beschrieben, sind diese nun zu einem Problem für jedes Unternehmen, jede Organisation und jeden High School-Schüler geworden, der künstliche Intelligenz-Generierungssysteme verwendet, um Dokumente zu entwickeln. Einige nutzen künstliche Intelligenzsysteme für Aufgaben, die möglicherweise erhebliche Folgen haben, von der Psychotherapie bis zur Forschung über die Erstellung von Rechtsdokumenten.

Ich glaube nicht, dass du heute ein Muster finden kannst, das nicht an Halluzinationen leidet”, sagte Daniela Amodei, Mitbegründerin und Leiterin des Anthropischen, kreativen “chatbot” Claude 2.

“[ Die Chatbots sind darauf ausgelegt, das nächste Wort” vorherzusagen, sagte Amodei. “Daher gibt es einen Grad, in dem das Modell dies falsch macht”.

Anthropic, das Gründungsunternehmen von ChatGPT, OpenAI und anderen großen Entwicklern künstlicher Intelligenzsysteme, auch bekannt als große sprachliche Modelle, haben gesagt, dass sie daran arbeiten, diese Systeme zuverlässiger zu machen.

Wie lange wird dies dauern und wenn sie gut genug sind, um für medizinische Beratung als sicher zu gelten, bleibt es zu sehen.

Emily Bender, Professor für Linguistik und Leiterin des Computer Linguistics Laboratory an der Washington University, sagte, dass dies nicht behoben werden kann. “ist ein Unterschied zwischen Technologie und den Fällen, in denen Technologie” verwendet wird.

Viele verlassen sich auf die Zuverlässigkeit der Technologie zur Erzeugung künstlicher Intelligenz. Das McKinsey World Institute prognostiziert, dass diese Technologie die Weltwirtschaft zu einem Äquivalent von 2,6 Billionen Dollar zu 4,4 Billionen Dollar hinzufügen wird. <x) Fast alle diese Werkzeuge enthalten mehrere Sprachkomponenten.

Google hat nur begonnen, ein künstliche Intelligenz Produkt, das Nachrichten an Medienorganisationen schreibt, zu präsentieren, und das ist, warum Genauigkeit ist entscheidend. Auch die Associated Press untersucht den Zugang zur Technologie im Rahmen ihrer Partnerschaft mit OpenAI, die für die Nutzung eines Teils des Associated Press-Textarchivs zur Verbesserung ihres Künstlichen Intelligenzsystems bezahlt.

In Partnerschaft mit den Hotelverwaltungsinstituten in Indien arbeitet der Informatiker Ganesh Bagler seit Jahren daran, künstliche Intelligenzsysteme, einschließlich eines Vorgängers des ChatGPT, zu erhalten, um neue Rezepte für die südasiatische Küche zu schaffen. Eine einzelne Komponente “Halinant” kann den Unterschied zwischen einem schmackhaften und immateriellen Lebensmittel machen.

Als OpenAI-Chef Sam Altman im Juni Indien besuchte, stellte Bagler, Professor am Indrapasthra Institut für Informationstechnologie in Dehli, mehrere Fragen.

“Ich denke Halluzinationen in ChatGPT sind immer noch akzeptabel, aber wenn ein Rezept davon betroffen ist, dann wird es zu einem großen Problem”, sagte Bagler, wie er Almat bei einem Ereignis in Neu-Delhi fragte.

== Einzelnachweise ==

Altman äußerte Optimismus, dass dieses Problem behoben werden könnte.

Ich denke, wir werden das Halluzinationsproblem stark verbessern”, sagte Altman. “Ich denke, es dauert eineinhalb Jahre, zwei Jahre. So was in der Art. Aber dann werden wir nicht über diese Probleme reden. Es wird eine Balance zwischen Kreativität und perfekter Präzision geben und das Modell muss gelernt werden, wenn wir wollen, oder das andere”.

Aber für einige Experten, die Technologie studieren, wie zum Beispiel Sprachwissenschaftler Bender von der Washington University, werden diese Verbesserungen nicht ausreichen.

Bender beschrieb das Sprachmodell als ein System für “Modelling Zeilen von Wörtern”, die einige schriftliche Daten, auf denen das Modell geschult wird.

So können Rechtschreibprogramme herausfinden, ob ein Wort falsch geschrieben ist. Dieses Modell hilft auch, automatische Übersetzung und Transliteration Dienste zu stärken, “das Ergebnis erscheinen mehr wie ein typischer Text in einer bestimmten Sprache”, sagte Bender. Viele Menschen verlassen sich auf eine Version dieser Technologie jedes Mal, wenn sie die “autocomplete” beim Senden von Nachrichten oder E-Mails verwenden.

Aber, die “chatbots -- die letzte”, wie ChatGPT, Claude 2 oder die Bard of Google Company -- neigen dazu, einen Schritt weiter zu gehen, neue textile Absätze zu erzeugen. Allerdings sagte Bender diese “chatbot” ständig nur zuverlässigere Wörter auswählen, um den Satz zu vereinheitlichen.

Wenn sie verwendet werden, um Texte zu generieren, werden die Sprachmodelle “entworfen, um Dinge zu erfinden. Das ist alles, was es tut, um”, sagte Bender. Diese Technologie der künstlichen Intelligenz ist gut für die Imitation von Formen des Schreibens, rechtliche Verträge und TV-Software-Skripte.

Aber da diese Modelle nur Dinge erfinden, wenn der Text, der erstellt sich als etwas, das wir als zutreffend betrachten, es ist Zufall”, Bender sagte. “Auch wenn programmiert, um genauer zu sein, gibt es immer noch Möglichkeiten, in denen sie scheitern können, und Fehler werden wahrscheinlich auftreten, wenn es schwieriger für eine Person, die den Text liest, um sie zu notieren”.

Diese Fehler sind kein großes Problem für Marketingbereiche, die Jasper AI-Services benötigt haben, um Ideen zu schreiben, sagte Firmenpräsident Shane Orlick.

== Weblinks ==== Einzelnachweise == “Wir haben Konsumenten, die uns die ganze Zeit zeigen, wie sie zu Ideen kamen, wie Jasper sie aus verschiedenen Blickwinkeln behandelt, wie sie sich nie selbst denken würden”.

Diese Texas-Zentrale beginnt mit Unternehmen wie Open It, Anthropic, Google oder Facebook zusammenzuarbeiten, um den Verbrauchern eine Reihe von sprachlichen Modellen künstlicher Intelligenz für ihre Bedürfnisse anzubieten. Für jemanden, der über die Genauigkeit besorgt ist, bietet dieses Start-up das Anthhopic-Modell an, für jemanden, der über die Sicherheit seiner Quelldaten besorgt ist, wird ein anderes Modell angeboten, sagte Orlick.

Orlick sagte, er weiß, dass Halluzinationen sich leicht verbessern können. Er erwartet von Unternehmen wie Google, die nach ihm, “haben hohe Standards für genaue 48x1> für seine Forschungsmaschine zu arbeiten, um die Lösung für dieses Problem zu finden.

Ich denke, sie können dieses Problem beheben”, Orlick sagte. “Sie müssen sich darum kümmern. Ich weiß nicht, ob es jemals perfekt sein wird, aber ich glaube, es wird sich ständig verbessern”.

Technologieoptimisten wie Microsoft-Mitgründer Bill Gates haben eine optimistische Zukunft vorhergesagt.

“Ich bin optimistisch, dass im Laufe der Zeit künstliche Intelligenz Modelle gelehrt werden können, Wahrheit von Falschheit zu unterscheiden”, Gates sagte in einem Juli-Post über seine Gedanken über die Gefahren in der Gesellschaft, die künstliche Intelligenz darstellen.

Er zitierte einen 2022 Text der Open Hei als Beispiel “, dass es gute Arbeit in dieser Richtung geben wird”. Schließlich sagten Forscher des Bundesinstituts für Technologie in Cyril, Schweiz, dass sie eine Methode entwickelt haben, um einige, aber nicht alle, den halluzinierenden Inhalt von ChatGPT zu erkennen, und laut ihnen wird die Methode diesen Inhalt automatisch entfernen.

Aber selbst Altman, der Produkte für verschiedene Zwecke erstellt, erwartet nicht, dass Modelle wahr sind, wenn er nach Informationen fragt.

Vielleicht glaube ich, dass die Antworten, die ich von ChatGPT erhalten so viel wie jeder auf der Erde glaubt”, Altman sagte während des Vorfalls an einer Universität in New Delhi. / REL