L'intelligence artificielle invente parfois des choses qui peuvent résoudre ce problème ?

Passez beaucoup de temps à utiliser ChatGPT, ou “chatbot” de l'intelligence artificielle et il ne vous faudra pas longtemps pour réaliser qu'ils disent des mensonges.

Décrites comme des hallucinations, de fausses informations ou des inventions de choses, elles sont devenues un problème pour chaque entreprise, organisation et lycéen utilisant des systèmes de génération d'intelligence artificielle pour élaborer des documents. Certains utilisent des systèmes d'intelligence artificielle pour des tâches qui pourraient avoir des conséquences majeures, allant de la psychothérapie à la recherche sur la rédaction de documents juridiques.

Je ne pense pas que vous puissiez trouver un modèle aujourd'hui qui ne souffre d'aucune hallucination”, a déclaré Daniela Amodei, cofondatrice et leader de l'Anthropique, créative “chatbot” Claude 2.

“[ Les Chatbots sont conçus pour prédire le mot suivant”, a dit Amodei. “Par conséquent, il y a un degré dans lequel le modèle fait cette erreur”.

Anthropic, la société fondatrice de ChatGPT, OpenAI et d'autres grands développeurs de systèmes d'intelligence artificielle, également connus sous le nom de grands modèles linguistiques, ont déclaré qu'ils travaillent à rendre ces systèmes plus fiables.

Combien de temps cela prendra-t-il et s'ils sont suffisamment bons pour être considérés comme sûrs pour recevoir des conseils médicaux, il reste à voir.

Cela ne peut pas être corrigé”, a déclaré Emily Bender, professeure de linguistique et chef du Laboratoire d'informatique linguistique de l'Université de Washington. “est une différence entre la technologie et les cas où la technologie” est utilisée.

Beaucoup comptent sur la fiabilité de la technologie de génération d'intelligence artificielle. Le McKinsey World Institute prévoit que cette technologie ajoutera l'économie mondiale à l'équivalent de 2,6 billions à 4,4 billions de dollars. <x) Presque tous ces outils comprennent plusieurs composantes linguistiques.

Google a seulement commencé à présenter un produit d'intelligence artificielle qui écrit des nouvelles aux organisations de médias, et c'est pourquoi la précision est primordiale. L'Associated Press examine également l'accès à la technologie dans le cadre de son partenariat avec OpenAI, qui paie pour utiliser certaines des archives de textes Associated Press pour améliorer son système d'intelligence artificielle.

En partenariat avec des instituts de gestion hôtelière en Inde, l'informaticien Ganesh Bagler travaille depuis des années pour obtenir des systèmes d'intelligence artificielle, dont un prédécesseur du ChatGPT, afin de créer de nouvelles recettes pour la cuisine sud-asiatique. Un seul composant “halinant” peut faire la différence entre un aliment savoureux et intangible.

Lorsque le chef de l'OpenAI, Sam Altman, s'est rendu en Inde en juin, Bagler, professeur à l'Institut Indrapasthra pour les technologies de l'information de Dehli, a soulevé plusieurs questions.

“Je pense que les hallucinations dans ChatGPT sont toujours acceptables, mais quand une recette est affectée par cela, alors il se transforme en un gros problème”, a dit Bagler, comme il a demandé Almat à un événement à New Delhi.

“

Altman a exprimé son optimisme quant à la possibilité de résoudre ce problème.

Je pense que nous allons beaucoup améliorer le problème d'hallucination”, Altman a dit. “Ça nous prendra un an et demi, deux ans. Quelque chose comme ça. Mais nous ne parlerons pas de ces problèmes. Il va y avoir un équilibre entre créativité et précision parfaite et le modèle doit être appris lorsque nous voulons l'un ou l'autre”.

Mais pour certains experts qui étudient la technologie, comme le linguiste Bender de l'Université de Washington, ces améliorations ne suffiront pas.

Bender a décrit le modèle de langue comme un système pour “lignes de modélisation de mots”, offrant quelques données écrites sur lesquelles le modèle est formé.

C'est ainsi que les programmes de vérification orthographique peuvent savoir si un mot est mal écrit. Ce modèle aide également à renforcer les services de traduction automatique et de translittération, “rendant le résultat plus semblable à un texte typique dans une langue particulière”, a dit Bender. Beaucoup de gens comptent sur une version de cette technologie chaque fois qu'ils utilisent le “autocomplet” lorsqu'ils envoient des messages ou des courriels.

Mais, les “chatbots -- les derniers”, comme ChatGPT, Claude 2 ou ce Bard de Google Company -- tendent à aller plus loin, générant de nouveaux paragraphes textiles. Cependant, Bender a dit ces “chatbot” sélectionner constamment seulement des mots plus fiables pour unifier la phrase.

Lorsqu'ils sont utilisés pour générer des textes, les modèles de langage “sont conçus pour inventer des choses. C'est tout ce que ça fait à”, a dit Bender. Cette technologie de l'intelligence artificielle est bonne pour imiter les formes d'écriture, les contrats juridiques et les scripts logiciels de télévision.

Mais comme ces modèles inventent juste des choses, quand le texte qui crée s'avère être quelque chose que nous considérons comme exact, c'est une coïncidence”, a dit Bender. “Même s'ils sont programmés pour être plus précis, il y a encore des façons dont ils peuvent échouer, et des échecs se produiront probablement quand il est plus difficile pour une personne qui lit le texte de les noter”.

États-Unis, l'UE coopère à la révision de l'intelligence artificielle

Ces erreurs ne sont pas un gros problème pour les zones de marketing qui ont demandé aux services d'IA Jasper d'écrire des idées, a déclaré Shane Orlick, président de l'entreprise.

“Les hakcinations sont en fait une liaison supplémentaire”, dit Orlick. “Nous avons des consommateurs qui nous montrent tout le temps comment ils sont arrivés à des idées, comment Jasper les gère sous différents angles, comment ils ne se penseraient jamais”.

Ce siège du Texas commence à coopérer avec des entreprises comme Open It, Anthropic, Google ou Facebook, pour offrir aux consommateurs un ensemble de modèles linguistiques d'intelligence artificielle pour leurs besoins. Pour quelqu'un préoccupé par la précision, cette start-up offre le modèle Anthhopic, en attendant, pour quelqu'un préoccupé par la sécurité de leurs données sources est offert un autre modèle, Orlick dit.

Orlick dit qu'il sait que les hallucinations peuvent facilement s'améliorer. Il s'attend de la part d'entreprises comme Google, qui selon lui, “ont des normes élevées pour l'exactitude 48x1> pour que sa machine de recherche travaille à trouver la solution à ce problème.

Je pense qu'ils peuvent résoudre ce problème”, a dit Orlick. “Ils doivent s'en occuper. Je ne sais pas si ce sera parfait, mais je crois qu'il s'améliorera constamment”.

Les optimistes technologiques, comme Bill Gates, cofondateur de la société Microsoft, ont prédit un avenir optimiste.

“Je suis optimiste quant au fait qu'avec le temps des modèles d'intelligence artificielle peuvent être enseignés pour distinguer la vérité de la fausseté”, Gates a déclaré dans un billet de juillet concernant ses pensées sur les dangers dans la société qui présentent l'intelligence artificielle.

Comment l'Europe sera-t-elle protégée des dangers de l'intelligence artificielle?

Il a cité un texte de 2022 de l'Open Hei comme exemple “qu'il y aura un bon travail dans cette direction”. Enfin, des chercheurs de l'Institut fédéral de technologie de Cyril, Suisse, ont déclaré avoir développé une méthode pour détecter certains, mais pas tous, le contenu hallucinant de ChatGPT, et, selon eux, la méthode va automatiquement supprimer ce contenu.

Mais même Altman, qui crée des produits pour diverses utilisations, ne s'attend pas à ce que les modèles soient vrais s'il demande des informations.

Je crois peut-être que les réponses que j'ai reçues de ChatGPT autant que quiconque sur Terre croit”, Altman a dit lors de l'incident tenu dans une université à New Delhi. / REL