En febrero de 2023, Google presentó su chatbot Bard en un video promocional. Le preguntaron qué descubrimientos del telescopio James Webb podía contarle a un niño de nueve años, y respondió, con total soltura, que el Webb había tomado la primera fotografía de un planeta fuera del sistema solar. La afirmación era falsa: esa imagen la había captado otro observatorio casi dos décadas antes. El error no tenía nada de espectacular salvo por una cosa: sonaba perfecto. Ese mismo día Alphabet perdió alrededor de cien mil millones de dólares de valor de mercado.
El episodio se suele contar como una anécdota sobre lo apurada que iba Google. A nosotros nos interesa por otra razón. El problema de fondo no fue que el modelo se equivocara, porque todos los sistemas se equivocan. El problema fue que se equivocó sin que nada en la respuesta delatara el error. No hubo titubeo ni advertencia ni una nota al pie que dijera de dónde había salido el dato. La frase tenía la misma forma que una respuesta correcta, y esa es exactamente la trampa.
El error que no se nota es el único que importa
Cuando un analista humano comete un error, casi siempre queda rastro. Hay un supuesto discutible, una fuente que alguien puede pedir, un número que no cuadra con el resto de la planilla. El error es visible y, por lo tanto, corregible. Un modelo de lenguaje generativo rompe esa garantía. Produce texto estadísticamente plausible en el que un dato inventado parece tan real como uno verdadero. Se afirma con la misma seguridad un número que existe y uno que el modelo construyó porque encajaba en la oración.
Esto no es una sospecha nuestra: está medido. Un estudio del Stanford RegLab publicado en 2024 encontró que los chatbots de propósito general alucinan entre el 58% y el 88% de las veces al responder preguntas legales específicas y verificables. Lo más incómodo del mismo grupo de investigadores vino después: las herramientas especializadas de investigación legal, las que ya usan recuperación de documentos para fundamentar sus respuestas, seguían inventando entre el 17% y el 33% de las veces. Es decir que "conectar el modelo a fuentes" reduce el problema, pero no lo elimina. Mientras sea el modelo el que redacta el número final, el número final puede estar inventado.
En el mundo financiero esto deja de ser un problema académico. Air Canada lo aprendió en un tribunal: su chatbot le prometió a un pasajero una política de reembolso que no existía; la aerolínea argumentó que no era responsable de lo que decía su propio bot, y el tribunal la obligó a pagar igual. Deloitte Australia lo aprendió en 2025, cuando tuvo que reembolsar parte de un contrato de 440 mil dólares australianos por un informe para el gobierno que contenía citas académicas inexistentes y una cita fabricada de un fallo judicial. En ambos casos el contenido se veía impecable hasta que alguien fue a buscar la fuente y no la encontró.
Un gráfico es una afirmación con corbata
Con los gráficos el riesgo se multiplica, porque un gráfico no parece una opinión: parece evidencia. Una curva ascendente comunica una tendencia antes de que leas el eje. Si dejas que un modelo de lenguaje "dibuje" la serie, le estás entregando la autoridad de un instrumento de medición a algo que solo está completando patrones. El resultado puede ser una tendencia hermosa y limpia que nunca ocurrió, y nadie la va a cuestionar porque los gráficos rara vez se cuestionan. Heredan la credibilidad del formato.
Por eso, cuando construimos Alicanto Analysts, tomamos una decisión que define todo lo demás: el modelo de lenguaje no calcula los números ni dibuja los gráficos. Sólo orquesta.
Cómo lo resolvimos: el modelo orquesta, el código responde
La forma habitual de vender un asistente de datos es decir que está "conectado a fuentes confiables". El dato de Stanford muestra que eso no basta. Nuestra apuesta es más estricta: sacarle al modelo la responsabilidad de producir el hecho.
En Alicanto Analysts el modelo interviene en unos pocos puntos de decisión. Interpreta tu pregunta, decide qué datos hace falta buscar y elige cómo presentarlos. Pero los datos no salen de él. Salen de código Python determinístico que consulta un catálogo cerrado de series reales, hoy indicadores del Banco Central y cuentas de los bancos reportadas a la Comisión para el Mercado Financiero. Ese código busca, transforma y calcula siempre igual, y el modelo solo puede elegir entre las entidades que ese catálogo le ofrece. Si intenta pedir una serie que no existe, simplemente no la encuentra, porque no hay manera de inventar un identificador que el catálogo no contenga.
Ese catálogo es justo lo que conectamos al dato interno de cada cliente. La muestra pública corre sobre el Banco Central y la CMF, pero el producto se enchufa a las bases internas de la organización. Desarrollamos herramientas de búsqueda a la medida de cada fuente y sumamos transformaciones que son transversales a todas, donde solo hace falta declarar la forma del dato: una serie de tiempo, un panel. La garantía no cambia. El modelo sigue eligiendo entre entidades que existen de verdad y el número lo trae el código, ahora sobre tus propios datos. Por eso un banco puede conectarlo a su operación sin perder el "no inventa".
El detalle que más nos gusta está en cómo se redacta la respuesta. El componente que escribe la prosa tiene prohibido escribir números. Cuando quiere decir que los depósitos crecieron cierto porcentaje, no escribe la cifra: escribe un espacio reservado, una especie de hueco con nombre. El código determinístico rellena ese hueco con el valor real ya calculado, con su unidad y su redondeo. Hay una verificación que rechaza la respuesta si detecta un número escrito a mano en medio del texto. Si el modelo afirma que una serie subió más que otra, otra rutina recalcula esa comparación contra los datos y la corrige si es falsa. El número que lees nunca pasó por la imaginación del modelo.
Los gráficos siguen la misma lógica. El tipo de visualización lo elige una regla determinística según la forma de los datos, y la serie que se grafica es la que calculó el código. El modelo solo puede referirse al gráfico para comentarlo, no puede fabricarlo. Lo que ves dibujado es un reflejo fiel de lo que se computó, no una ilustración inspirada en la pregunta.
La fuente de cada dato, en el mismo lugar que el dato
Todo lo anterior sería difícil de auditar si quedara escondido. Por eso cada respuesta carga su propia trazabilidad. Junto a cada gráfico hay una lista de los pasos que se ejecutaron, redactados en español llano: de dónde se extrajo la serie, en qué ventana de tiempo, qué transformaciones se aplicaron, cómo se convirtieron las monedas. No es un tecnicismo escondido en un registro: está al lado del número, lo puedes abrir, y puedes exportar tanto el gráfico como los datos crudos para revisarlos por tu cuenta. Si alguien en tu equipo pregunta de dónde salió esa cifra, la respuesta ya está ahí.
La idea que defendemos es simple. En el sistema financiero, los que deciden no acceden directamente al dato: dependen de alguien que se los traiga, y esa dependencia solo es sana si pueden verificar lo que reciben. Un asistente que responde rápido pero no muestra de dónde sacó el número no resuelve ese problema: lo disfraza. Preferimos un sistema que se abstiene cuando no hay evidencia y que muestra la fuente de cada dato, aunque eso signifique decir más seguido "esto no lo tengo". Un dato financiero sin origen verificable no es información, es una opinión bien vestida, y ninguna decisión que importe debería apoyarse en eso.
Fuentes
- Google shares lose $100 billion after company's AI chatbot makes an error during demo · CNN Business
- Air Canada must pay refund promised by AI chatbot, tribunal rules · AOL / Reuters
- Air Canada Held Responsible for Chatbot's Hallucinations · AI Business
- Deloitte to refund Australian government after AI hallucinations found in report · Fast Company
- Hallucinating Law: Legal Mistakes with Large Language Models are Pervasive · Stanford Law School / RegLab
- Stanford study finding AI legal research tools hallucinate in 17% to 33% of queries · LawSites
