La IA puede sumar tu patrimonio con precisión matemática y aun así mentirte por 1,6 millones de euros. No porque el modelo falle en la cuenta, sino porque suma exactamente lo que le has dado, y si lo que le has dado ya está mal planteado, el resultado sale mal con toda la confianza de un análisis. Nos pasó a nosotros mismos hace pocos días, con nuestro propio panel de patrimonio, y merece la pena contarlo porque el fallo no tiene nada de exótico: le puede pasar a cualquier negocio o persona que centralice cuentas en varias divisas.
El problema: un patrimonio que no cuadraba con el banco
Montamos un panel que centraliza cuentas bancarias de varios países y divisas para ver, de un vistazo, cuánto patrimonio hay en total. Un día, ese panel mostró 1.628.131 € de patrimonio personal. El saldo real en el banco era de 1.150 €.
No fue un error de un 10% o un 20%, de esos que se notan a ojo y se investigan por rutina. Fue una cifra mil veces mayor que la real, y la página no daba ningún error: el número aparecía limpio, con dos decimales, con la pinta de un dato en el que se puede confiar.
Cómo pasó: sumar cuentas, no movimientos
La causa fue muy concreta. El panel agrupaba los saldos por la divisa con la que se dio de alta cada cuenta bancaria, no por la divisa real de cada movimiento dentro de esa cuenta. Y hay cuentas, sobre todo las pensadas para uso internacional, que están abiertas "en euros" mientras mueven dinero en otras monedas por dentro.
El resultado: una cuenta con movimientos de 1.649.434 rupias indonesias y otra con -22.580 wones surcoreanos se sumaron al total tal cual, como si esas cifras ya estuvieran en euros. Bastó una sola cuenta con rupias para disparar el total muy por encima de lo que había en el banco.
La corrección no fue compleja una vez localizada: convertir cada movimiento a la divisa real antes de sumarlo, no fiarse de la divisa "de portada" de la cuenta. Pero localizarlo sí costó, porque nada en el sistema avisaba de que algo iba mal.
Por qué esto pesa más cuando hay una IA de por medio
Aquí es donde el problema deja de ser un bug de un panel y pasa a ser una lección sobre cómo se usa la IA en cualquier negocio. Cada vez es más habitual pedirle a un asistente de IA que lea un cuadro de mando y "te diga cómo va" tu negocio, tu tesorería o, como en este caso, tu patrimonio.
Una IA a la que le preguntas "¿cuánto patrimonio tengo?" y le pasas (o le conectas) un panel con este fallo dentro no va a dudar del 1.628.131 €. Va a leerlo, redondearlo bien, quizá compararlo con el mes pasado y contestarte con total seguridad. No es que la IA "se equivoque" calculando: es que hereda el error del dato de origen y lo devuelve con el tono seguro de quien ha "analizado" algo. Eso es lo peligroso: un número mal calculado, mostrado en una pantalla, invita a que alguien lo revise si algo no le cuadra. El mismo número, dicho por una IA con aire de análisis, invita a creérselo.
| Lo que ves | Lo que hay detrás | Lección |
|---|---|---|
| 1.628.131 € de patrimonio | Rupias y wones sumados como si fueran euros | Un número limpio no es lo mismo que un número correcto |
| Sin error en pantalla | Fallo en la lógica de agrupación, no en el cálculo | El sistema no siempre avisa cuando el dato está mal planteado |
| Una IA leyendo ese panel | Respuesta segura, con el error heredado | La IA no cuestiona el dato que le das, lo procesa |
La regla de decisión
Si tu sistema agrupa saldos, ventas o cualquier cifra por una etiqueta fija de la cuenta o el registro (su divisa de alta, su categoría por defecto) en vez de por el dato real de cada movimiento, en cuanto metas variedad real (varias divisas, varias tarifas, varios tipos), el número final puede alejarse mucho de la realidad sin que nada te avise.
Y si encima planeas que una IA razone sobre ese número (para responder preguntas, generar informes o recomendar algo), esa disciplina deja de ser opcional: es exactamente lo mismo que aplicamos en la plataforma de datos con IA que montamos para un grupo de farmacias (puedes verlo en el caso de plataforma de datos + IA), donde la IA no razona nunca sobre un dato sin validar primero. Primero se ordena y se valida el dato al céntimo, y solo después se deja que la IA saque conclusiones. Al revés, sale bonito y sale mal.
Checklist antes de fiarte de un número multidivisa
- ¿Agrupo por la divisa real de cada movimiento, o por la divisa "de portada" de la cuenta o el registro?
- ¿Tengo alguna cuenta o proceso que mueve varias divisas por dentro aunque esté etiquetado con una sola?
- ¿El sistema convierte cada movimiento a una divisa común antes de sumar, o suma primero y confía después?
- Si un total me sorprende mucho (mil veces más de lo esperado, no un 10-20% más), ¿reviso el dato antes de actuar sobre él?
- Si le voy a pasar este número a una IA, ¿le doy también cómo se calculó, o solo el resultado final?
La lección para cualquier negocio
No hace falta operar en 47 países para tropezar con esto. Basta una cuenta bancaria "de uso internacional", una pasarela de pago que liquida en varias monedas, o un proveedor que factura en dólares mientras tu contabilidad va en euros. En cuanto agrupas por una etiqueta en vez de por el dato real, el riesgo está ahí, esperando a que la variedad real de tu negocio lo destape.
Es la misma disciplina que defendemos en por qué el dato va antes que la IA: la IA no es el paso que arregla un dato mal planteado, es el paso que lo amplifica, para bien cuando el dato es fiable y para mal cuando no lo es.
Si estás centralizando cuentas, ventas o cualquier cifra de varias fuentes y quieres que el número final sea de fiar antes de dejar que ninguna IA razone sobre él, en AutoBoost construimos ese tipo de plataformas de datos a medida, integradas en tu sistema real. Contacta con nosotros y revisamos juntos de dónde sale tu número.
