¿Qué son las alucinaciones en la Inteligencia artificial?

La inteligencia artificial (IA) ha demostrado que puede ser un aliado tecnológico en grandes aspectos como la medicina o el análisis de datos, pero su desarrollo todavía tiene obstáculos que sortear antes de ganarse la confianza de todos. Tal como lo dijo Sam Altman, fundador de director ejecutivo y cofundador de Open AI: “mi peor miedo es que esta tecnología salga mal. Y si sale mal, puede salir muy mal”.

¿Qué es una alucinación?

Según un artículo de la BBC, la alucinación en la IA se refiere a la capacidad de los sistemas de generar información falsa o engañosa sin una correspondencia directa con la realidad. Podemos ver el siguiente ejemplo, acerca de la Coronación del rey Carlos III, ChatGPT envío un párrafo con esta información:

"La ceremonia de coronación tuvo lugar en la Abadía de Westminster, en Londres, el 19 de mayo de 2023. La abadía ha sido el escenario de las coronaciones de los monarcas británicos desde el siglo XI, y es considerada uno de los lugares más sagrados y emblemáticos del país".

Este texto contiene información errónea ya que el evento sucedió el 6 de mayo, en lugar del 19. Este cambio ejemplifica lo que conocemos como alucinación en IA.

Implicaciones de las alucinaciones 

Esta situación plantea preocupaciones éticas y prácticas importantes, ya que la información generada por los sistemas de IA puede influir en la toma de decisiones y en la percepción de la realidad. La alucinación en la inteligencia artificial puede presentarse de diversas formas y tener implicaciones significativas en empresas como Google y Microsoft, tal como lo describe ComputerHoy. Según lo comentado por Google, la llegada de IA puede causar que los resultados en buscadores puedan no ser tan precisos.

Además, resulta complicado identificar todos los momentos en que puedan ocurrir estas alucinaciones debido a la gran cantidad que procesan las IA. La complejidad de los algoritmos y la opacidad de los procesos de toma de decisiones de la IA dificultan la identificación y explicación de cómo se generan las alucinaciones. Esto plantea desafíos en la responsabilidad y la transparencia en el desarrollo y uso de la IA.