OpenAI revela las razones detrás de las ‘alucinaciones’ en ChatGPT
OpenAI, la compañía de Sam Altman, ha lanzado un estudio minucioso que se centra en las ‘alucinaciones’ de la inteligencia artificial (IA), procurando desentrañar por qué ocurren tan frecuentemente en chatbots de alta tecnología como ChatGPT.
Si te estás preguntando acerca del concepto de las ‘alucinaciones’ de la IA, son básicamente errores en la percepción de las máquinas que provocan la interpretación incorrecta de datos o señales, induciendo a la creencia de estar experimentando algo que en realidad no está allí.
Para poner un ejemplo simple, una IA entrenada para identificar objetos en imágenes puede empezar a detectar objetos inexistentes, como ver un elefante en una imagen de una playa sin elefantes. Esto se estaría considerando una ‘alucinación’ de la IA.
ChatGPT: Inventando respuestas erróneas
Incluso el informe de OpenAI también incluyó ejemplos intrigantes. Cuando se le preguntó a ChatGPT sobre el título de la tesis doctoral de Adam Tauman Kalai, autor del estudio, produjo tres respuestas diferentes, todas ellas incorrectas. Al solicitar posteriormente la fecha de nacimiento del autor, obtuvieron nuevamente tres fechas diferentes, ninguna de las cuales era correcta.
Estas ‘alucinaciones’ pueden ser provocadas por diversos motivos, incluyendo problemas en los datos de entrenamiento, errores en los algoritmos o limitaciones en los sensores de la máquina. Los efectos pueden ser tan variados como la creación de noticias falsas hasta afirmaciones o documentos falsos sobre personas, eventos o hechos científicos.
Encontrar el origen del problema
La empresa de Altman ha sido contundente en sus conclusiones: ‘Los modelos de lenguaje producen declaraciones plausibles pero falsas’. A pesar de los avances en la tecnología, las ‘alucinaciones’ seguirán siendo un problema fundamental.
Según los investigadores, parte del problema radica en el proceso de entrenamiento. El modelo se entrena para predecir la siguiente palabra en millones de frases, sin establecer una evaluación clara entre hechos correctos o incorrectos. ‘El modelo sólo ve ejemplos positivos de lenguaje fluido y debe aproximar la distribución general’, explican.
Ello implica que en campos sistemáticos y predecibles, como la gramática, los errores se reducen en gran medida. ‘La ortografía o el uso de paréntesis siguen patrones consistentes. Ahí los errores desaparecen’, apuntan.