Si le preguntas algo a una inteligencia artificial y responde con toda seguridad, pero resulta que el dato es falso, a eso se le llama “alucinación”.

Modelos de lenguaje como ChatGPT, Gemini o Perplexity pueden dar respuestas convincentes que, en ocasiones, son equivocadas. Eso no significa que la IA mienta a propósito, simplemente no “conoce” la respuesta debido a la falta de datos en su entrenamiento.

En la práctica, lo que hacen es predecir palabras basándose en patrones probabilísticos aprendidos. Cuando no tiene información suficiente, intentan responder de todas formas y pueden cometer errores.

Veamos este ejemplo:  Un estudiante que se prepara para un examen. Si le preguntan algo que estudió, responderá correctamente. Pero si le preguntan algo que no está en sus apuntes, podría inventar una respuesta para no dejar el espacio en blanco.

Esto mismo ocurre con la IA, emite contestaciones convincentes pero erradas por falta de datos.

DATOS DE CALIDAD 

En inteligencia artificial, los algoritmos son instrucciones que permiten a las máquinas aprender de grandes cantidades de datos y generar respuestas basadas en los patrones que detectan.

Cuando la información que recibe un modelo de lenguaje es “sucia” (con errores, duplicaciones o inconsistencias), aprenderá de forma incorrecta y replicará esos datos errados.  

Para mejorar la precisión de sus respuestas, son entrenados con grandes conjuntos de datos y revisados por especialistas: científicos, programadores e incluso comités de ética.  De esta manera aprenden también a reconocer cuándo es mejor admitir que no saben algo y cuándo pueden ofrecer una respuesta confiable.

DESPLAZAMIENTO DE DISTRIBUCIÓN

En ocasiones, los modelos de lenguaje enfrentan preguntas o contextos muy distintos a lo que aprendieron durante su entrenamiento. A eso se le llama desplazamiento de distribución. Esto sucede cuando la IA intenta responder                   fuera de su “zona de conocimiento” y comete imprecisiones. 

Ejemplo: un guía turístico capacitado solo con la historia y las calles de Cuenca podría confundirse al llegar a Guayaquil, mezclará nombres y rutas. Una situación similar le puede ocurrir a ChatGPT si recibe información muy distinta de lo que aprendió.  

APRENDIZAJE POR REFUERZO

Los modelos de lenguaje mejoran con un proceso llamado aprendizaje por refuerzo. Esto significa que reciben retroalimentación: son “premiados” cuando dan respuestas correctas y “corregidos” cuando se equivocan; y así aprenden a comportarse mejor en distintas tareas, tal como lo explican Andrew Barto y Richard Sutton, pioneros de la IA. 

Una técnica avanzada que se usa es Aprendizaje por Refuerzo con  Retroalimentación Humana (RLHF). En este caso la retroalimentación proviene de evaluadores humanos, revisan las respuestas de la IA y ayudan a afinar su comportamiento.

VERSIONES GRATUITAS Y DE PAGO

ChatGPT, Gemini, Perplexity, entre otros, ofrecen versiones gratuitas y de pago.

• Versiones gratuitas funcionan bien para tareas generales, aunque suelen ser más limitadas en precisión, rapidez o alcance de información.

• Versiones de pago tienen mayor capacidad de razonamiento y acceso a información más actualizada y confiable. Esto se debe a que funcionan con tecnologías más avanzadas, como el caso de GPT-5 en ChatGPT; y 2.5 Pro en Gemini, que son mejoras de sus motores de inteligencia artificial.

La clave no está solo en la versión del modelo. Un aspecto importante es cómo el usuario le formula la pregunta (prompt) y valida la respuesta. Con una buena consulta y verificación, se pueden lograr mejores resultados, incluso en la versión gratuita.

PROMPTS

Un prompt es la instrucción o pregunta que el usuario le da a la IA. La claridad y el contexto (información extra que añadimos) determinan la calidad de la respuesta y optimizan la interacción.

Si la consulta a ChatGPT es general, la contestación será ambigua o poco precisa. Pero si está bien estructurada, el resultado que nos proporcione será más contundente. Por ejemplo:

• Si preguntas solo: “Háblame de Guayaquil”, la respuesta será general.
• Si preguntas: “Háblame de Guayaquil, Ecuador, mencionando su historia y sitios turísticos más importantes”, la respuesta será más útil y precisa por ese detalle extra en el contexto.

¿QUÉ HACER PARA MITIGAR LAS ALUCINACIONES?

OpenAI, creador de ChatGPT, señaló en un reciente informe que trabaja continuamente para mejorar la precisión de sus datos mediante:

• Uso de datos de mejor calidad y actualizados.
• Reentrenamiento con información específica.
• Procesos de razonamiento paso a paso antes de generar la respuesta.

CONCLUSIÓN

La Inteligencia Artificial es una herramienta que puede convertirse en nuestra aliada. Es importante analizar las respuestas que proporciona y hacer repreguntas (iterar) para obtener mejores resultados. Si existen dudas sobre lo que revela, es conveniente investigar en Google o en fuentes confiables.

Carlos Ibáñez Arosemena, autor de este artículo, es estratega en comunicación digital, experiencia del cliente y marca personal. Tiene más de 25 años de experiencia en la gestión de marcas empresariales, figuras públicas, organizaciones no gubernamentales y emprendimientos. Posee una maestría en comunicación digital y un postgrado en  marketing.

También te puede interesar leer: Estrategias para impulsar tu marca personal con IA