Si tu agente de IA se equivoca, la pregunta que casi todo el mundo hace primero es "¿fue culpa de la IA?". Es la pregunta equivocada, y contestarla no arregla nada. La que de verdad importa, la que decidimos que se responde antes de dar permiso de escritura a cualquier agente en AutoBoost, es otra: si esto sale mal, ¿quién lo nota, quién lo deshace, y cuánto tarda en notarse?
Por qué "¿fue culpa de la IA?" no lleva a ningún sitio
Un modelo de lenguaje no tiene intención, no tiene bienes con los que responder, y no puede firmar nada. Cuando un agente de IA escribe en tu ERP, tu CRM o tu contabilidad y comete un error, buscar "la culpa del modelo" es como buscar la culpa del destornillador cuando alguien aprieta un tornillo donde no tocaba. El destornillador hizo exactamente lo que se le pidió. La pregunta que sí tiene respuesta es quién decidió qué podía tocar ese destornillador, y qué pasa cuando lo aprieta donde no debía.
Con un agente de IA es lo mismo, solo que la tentación de personificarlo es mayor porque habla, razona y parece decidir. No decide en el sentido que importa aquí: actúa dentro de los límites que alguien de tu equipo (o del nuestro, si lo hemos construido nosotros) le puso por escrito. Si esos límites no existen, o son demasiado anchos, el error no lo cometió la IA: lo permitió el diseño.
La pregunta que sí importa: ¿quién puede deshacerlo, y en cuánto tiempo?
Antes de dejar que un agente escriba en un sistema real, la pregunta operativa no es "¿es fiable el modelo?". Es esta otra, mucho más concreta: si esta acción sale mal, ¿quién se entera, quién puede deshacerla, y cuánto tiempo pasa entre que ocurre y que alguien la corrige.
Esa pregunta tiene una respuesta distinta según qué tipo de acción estemos hablando, y ahí está la clave de todo el diseño.
Tres niveles de reversibilidad (y por qué no todos merecen el mismo permiso)
No todas las acciones que puede hacer un agente pesan igual. Antes de dar permiso de escritura, conviene clasificar cada acción posible en uno de estos tres niveles:
| Nivel | Qué significa | Ejemplo real de AutoBoost | Quién responde |
|---|---|---|---|
| 1. Se deshace sola | El propio agente verifica su resultado y revierte si no cuadra, sin esperar a un humano | La IA que contabiliza facturas de un grupo veterinario crea la factura solo si el total cuadra al céntimo; si no, la borra ella misma | El diseño de la comprobación, no el agente |
| 2. Queda pendiente de confirmación | El agente prepara la acción, pero un paso explícito (humano o una regla) la confirma antes de que sea real | El comercial de IA de una distribuidora crea la oportunidad en el ERP, pero solo genera el pedido cuando ha validado cliente, tarifa y stock reales, uno a uno | Quien definió qué validaciones son obligatorias antes de confirmar |
| 3. Irreversible en el momento | La acción sale del sistema y no hay vuelta atrás en cuanto ocurre: un pedido real enviado a un proveedor, un mensaje a un cliente, un pago | El envío de pedidos reales al distribuidor dentro de la plataforma de datos de un grupo de farmacias | Quien puso el límite de qué puede disparar esa acción sin revisión, y con qué condiciones |
El error habitual es tratar los tres niveles como si fueran uno solo: dar a un agente permiso de escritura y asumir que "ya se le controlará si hace algo raro". Un agente en nivel 1 puede equivocarse cien veces al día sin que le cueste nada al negocio, porque el propio diseño absorbe el error. Un agente en nivel 3 con el mismo margen de confianza puede hacer daño real la primera vez que se equivoca, porque no hay ningún paso entre su decisión y el mundo real.
La responsabilidad nunca es de la IA: es de quien dibujó el límite
Aquí está la regla de decisión que aplicamos en cada proyecto, y que vale para cualquier negocio que esté valorando dar permisos de escritura a un agente: la responsabilidad de un error de un agente de IA no recae nunca en el agente, recae siempre en quien decidió qué podía hacer sin supervisión y qué no. Si tu empresa no puede contestar con nombre y apellido quién tomó esa decisión para cada acción de nivel 3, no tienes un agente bien diseñado, tienes una apuesta.
Esto tiene una consecuencia práctica que muchas pymes se saltan: antes de preguntar "¿qué puede hacer esta IA?", hay que preguntar "¿quién firma que puede hacerlo sin que nadie lo revise antes?". No es una pregunta legal abstracta, es una pregunta de diseño de sistema, y tiene que tener dueño desde el primer día, no después del primer incidente.
Checklist antes de dar permiso de escritura a un agente
| Pregunta | Si no tienes respuesta clara |
|---|---|
| ¿En qué nivel de reversibilidad (1, 2 o 3) está cada acción que puede hacer el agente? | No sabes cuánto puede costarte un error, solo que puede pasar |
| Para las acciones de nivel 1, ¿el propio agente verifica su resultado antes de darlo por bueno? | Cualquier fallo se cuela como si fuera correcto |
| Para las de nivel 2, ¿qué validaciones concretas tienen que pasar antes de confirmar? | La confirmación es un trámite, no un control real |
| Para las de nivel 3, ¿quién autorizó por escrito que el agente pueda hacerlas sin revisión previa? | Si algo sale mal, nadie sabe quién tomó esa decisión |
| Si el agente se equivoca hoy, ¿cuánto tiempo pasaría hasta que alguien de tu equipo se entere? | Cuanto más tarde, más caro sale el error cuando aparece |
Si dos o más respuestas te dejan incómodo, el problema no es "si fiarte o no de la IA": es que no has clasificado sus acciones por el daño que pueden hacer, y eso es trabajo de diseño, no de modelo.
Cómo lo aplicamos en AutoBoost
Este marco no es teoría suelta, es el que seguimos en cada agente que integramos en el sistema real de un cliente. En el caso del comercial de IA en el ERP de una distribuidora industrial con más de 50.000 productos, el agente valida cliente, aplica tarifa y comprueba stock (nivel 2, con validaciones obligatorias antes de crear el pedido real), y nunca toca precios base ni borra clientes, porque esas acciones no están dentro de su rol. En el caso de las facturas que se contabilizan solas de un grupo veterinario, el agente opera en nivel 1: si el total no cuadra, se corrige solo, borrando su propia factura, sin esperar a que nadie lo revise. La diferencia entre los dos diseños no es casualidad: sale de clasificar antes qué tan reversible es cada acción, y de decidir, con nombre y apellido, quién responde de cada nivel.
Si estás valorando dar permiso de escritura a un agente de IA en tu ERP, tu CRM o tu contabilidad, no empieces por el modelo. Empieza por clasificar qué puede hacer y quién responde de cada cosa. En AutoBoost construimos software e IA a medida con este marco integrado desde el diseño, no como un parche después de un susto. Contáctanos y lo revisamos juntos antes de que tu agente toque nada real.
