La inteligencia artificial está inventando cosas - ¿puede arreglarse este problema?

Pase mucho tiempo usando ChatGPT, o <x0 título de inteligencia artificial y no le llevará mucho tiempo darse cuenta de que están diciendo mentiras.

Descritos como alucinaciones, información falsa o invención de cosas, éstas se han convertido en un problema para cada empresa, organización y estudiante de secundaria usando sistemas de generación de inteligencia artificial para desarrollar documentos. Algunos utilizan sistemas de inteligencia artificial para tareas que pueden tener consecuencias importantes, desde la psicoterapia hasta la investigación sobre la redacción de documentos jurídicos.

No creo que puedas encontrar ningún patrón hoy que no sufra de ninguna alucinación realizadax0 confianza, dijo Daniela Amodei, cofundador y líder del Antrópico, creativo <x1⁄2⁄2⁄2⁄2 Claude 2.

[Los Chatbots están diseñados para predecir la siguiente palabra hechax1⁄4], dijo Amodei. ▪x2 Por lo tanto, hay un grado en el que el modelo hace esto incorrectamente madex3 confianza.

Antrópico, la empresa fundadora de ChatGPT, OpenAI y otros desarrolladores importantes de sistemas de inteligencia artificial, también conocidos como modelos lingüísticos importantes, han dicho que están trabajando para hacer estos sistemas más fiables.

Cuanto tiempo tomará esto y si son lo suficientemente buenos para ser considerados seguros para el consejo médico, queda por ver.

Esto no se puede fijar (10x0], dijo Emily Bender, profesora de lingüística y líder del Laboratorio de Lingüística Informática de la Universidad de Washington. ■x1⁄4e es una diferencia entre la tecnología y los casos en los que se utiliza la tecnología correspondientex2.

Muchos confían en la fiabilidad de la tecnología de generación de inteligencia artificial. El Instituto Mundial McKinsey predice que esta tecnología añadirá la economía mundial a un equivalente de 2,6 billones a 4,4 billones de dólares. . Casi todas estas herramientas incluyen varios componentes de lenguaje.

Google sólo ha comenzado a presentar un producto de inteligencia artificial que escribe noticias a organizaciones de medios, y es por eso que la precisión es primordial. La Associated Press también examina el acceso a la tecnología como parte de su asociación con OpenAI, que está pagando para utilizar parte del archivo de textos de Associated Press para mejorar su sistema de inteligencia artificial.

En asociación con los institutos de gestión de hoteles en la India, el científico informático Ganesh Bagler ha estado trabajando durante años para obtener sistemas de inteligencia artificial, incluyendo un predecesor del ChatGPT, con el fin de crear nuevas recetas para la cocina del sur de Asia. Un único componente de un solo componente de неx0⁄2inant se puede hacer la diferencia entre un alimento sabroso e intangible.

Cuando el jefe de OpenAI Sam Altman visitó India en junio, Bagler, profesor del Instituto Indrapasthra de Tecnología de la Información en Dehli, planteó varias preguntas.

Creo que las alucinaciones en ChatGPT siguen siendo aceptables, pero cuando una receta se ve afectada por esto, entonces se convierte en un gran problema garantizadox1⁄4, dijo Bagler, como le pidió a Almat en un evento en Nueva Delhi.

▪x0

Altman expresó su optimismo de que este problema podría solucionarse.

Creo que mejoraremos enormemente el problema de alucinación realizadox0 título, dijo Altman. Creo que nos llevará un año y medio, dos años. Algo así. Pero entonces no hablaremos de estos problemas. Va a haber un equilibrio entre la creatividad y la precisión perfecta y el modelo necesita ser aprendido cuando queremos uno, o el otro fieltro.

Pero para algunos expertos que estudian tecnología, como el idioma Bender de la Universidad de Washington, estas mejoras no serán suficientes.

Bender describió el modelo de lenguaje como un sistema para las líneas de texto de las palabras realizadasx1⁄4, ofreciendo algunos datos escritos sobre los que se entrena el modelo.

Así es como los programas de comprobación de hechizos son capaces de averiguar si una palabra está escrita incorrectamente. Este modelo también ayuda a fortalecer los servicios automáticos de traducción y transliteración, según Bender, el resultado aparece más como un texto típico en un idioma determinado. Muchas personas confían en una versión de esta tecnología cada vez que usan el неx2⁄2⁄4]autocomplete obtenidosx3 cuando envían mensajes o correos electrónicos.

Pero, los <x0 confianzachatbots -- el último significadox1 confianza, como ChatGPT, Claude 2 o el Bardo de Google Company -- tienden a ir un paso más allá, generando nuevos párrafos textiles. Sin embargo, Bender dijo que estos неx2 confianzachatbot hicieronx3 confianza selecciona constantemente sólo palabras más confiables para unificar la frase.

Cuando se utilizan para generar textos, modelos de lenguaje <x0]are diseñados para inventar cosas. Eso es todo lo que hace para cumplirx1, dijo Bender. Esta tecnología de inteligencia artificial es buena para imitar formas de escritura, contratos legales y scripts de software de televisión.

Pero dado que estos modelos inventan cosas, cuando el texto que crea resulta ser algo que consideramos preciso, es una coincidencia hechax0 confidencial, dijo Bender. ▪x1 Incluso si se programa para ser más exactos, todavía hay maneras en que pueden fallar, y los fallos probablemente ocurrirán cuando es más difícil para una persona que lee el texto para notarlos correctamentex2 título.

Estos errores no son un gran problema para áreas de marketing que han requerido servicios de Jasper AI para escribir ideas, dijo el presidente de la empresa Shane Orlick.

"Hakcinations" es en realidad un bono adicional correspondientex1, dijo Orlick. ▪x2 Tenemos consumidores que todo el tiempo nos muestran cómo llegaron a las ideas, cómo Jasper las maneja desde diferentes ángulos, la forma en que nunca se pensarían ellos mismos:

Esta sede de Texas comienza a cooperar con empresas como Open It, Anthropic, Google o Facebook, para ofrecer a los consumidores un conjunto de modelos lingüísticos de inteligencia artificial para sus necesidades. Para alguien preocupado por la exactitud, este start-up ofrece el modelo anthhopic, mientras tanto, para alguien preocupado por la seguridad de sus datos fuente se ofrece otro modelo, dijo Orlick.

Orlick dijo que sabe que las alucinaciones pueden mejorar fácilmente. Él espera de empresas como Google, que según él, <x0 confianzahave altos estándares para precisa 48x1⁄4] confianza para su máquina de investigación para trabajar en encontrar la solución a este problema.

Creo que pueden arreglar este problema. ▪x1 Deben abordar esto. No sé si va a ser perfecto, pero creo que mejorará constantemente.

Los optimistas tecnológicos, como el cofundador de la empresa Microsoft Bill Gates, han predicho un futuro optimista.

Estoy optimista de que con el tiempo se pueden enseñar modelos de inteligencia artificial para distinguir la verdad de la falsedad obtenidax1⁄4, Gates dijo en un post de julio sobre sus pensamientos sobre los peligros en la sociedad que presentan inteligencia artificial.

Mencionó un texto de 2022 del Open Hei como un ejemplo de que habrá un buen trabajo en esta dirección: Finalmente, investigadores del Instituto Federal de Tecnología de Cyril, Suiza, dijeron que han desarrollado un método para detectar algunos, pero no todos, el contenido alucinante de ChatGPT, y, según ellos, el método eliminará automáticamente este contenido.

Pero incluso Altman, que crea productos para diversos usos, no espera que los modelos sean verdaderos si pide información.

Quizás creo que las respuestas que recibo de ChatGPT tanto como cualquier persona en la Tierra cree fieltro, Altman dijo durante el incidente celebrado en una universidad en Nueva Delhi. / REL