Tu IA puede escribir sola en tu ERP, tu CRM o tu sistema de facturación, con todas las validaciones bien hechas, y aun así perder ese trabajo en segundos por algo que no tiene nada que ver con ella: un atajo manual que toca el mismo sitio sin partir del último estado. No es un fallo del agente. Es un hueco que nadie audita porque toda la atención se va a la IA y ninguna al resto de caminos que llegan al mismo dato.
Lo que nos pasó, sin dramatizar
Nuestro propio blog se publica solo: en cuanto un artículo está listo, un proceso automático lo sube a producción sin que nadie lo toque a mano. Un día, un despliegue lanzado desde otro sitio, sin traer antes los últimos cambios, subió encima una versión anterior del sitio completo. Con ella se llevó por delante el artículo que el proceso automático había publicado esa misma mañana. No se recortó ni se corrompió: desapareció entero, como si nunca se hubiera escrito.
El agente automático no falló en nada. Hizo exactamente lo que tenía que hacer. El problema estaba en el otro camino, el manual, que escribía en el mismo sitio sin las mismas garantías.
Por qué este patrón es mucho más caro con una IA que actúa
Cuando el que escribe eres tú a mano, notas al momento si algo raro pasó porque acabas de tocarlo. Cuando el que escribe es una IA que actúa sola (crea pedidos, contabiliza facturas, actualiza stock, agenda citas), nadie está mirando en el momento exacto en que ocurre. Si un atajo manual pisa ese trabajo por detrás, el hueco puede pasar días sin que nadie lo note, porque no hay ninguna persona comprobando en vivo lo que la IA acaba de hacer.
Lo vemos con claridad en los proyectos donde la IA ya escribe de verdad en el sistema del cliente. En una distribuidora industrial con más de 50.000 productos, montamos un comercial de IA que opera dentro del ERP: valida al cliente, aplica su tarifa y crea el pedido real, sin borrador intermedio. Si alguien del equipo comercial edita ese mismo pedido a mano desde otra pantalla sin recargar el estado más reciente, puede sobrescribir sin querer lo que el agente acaba de dejar correcto. La IA no se entera, porque nadie le pidió que vigilara los otros caminos, solo el suyo.
En el caso de un grupo veterinario que contabiliza facturas con IA, el propio sistema ya sabe deshacer su trabajo si algo no cuadra: si el total no coincide, borra la factura que acaba de crear en vez de dejarla mal contabilizada. Es la misma lógica que falta en un atajo manual: saber que existe otro camino y respetar el estado que ese camino dejó, en vez de escribir a ciegas encima.
La regla de decisión
Antes de dar permisos de escritura a una IA, audita todos los demás caminos que pueden escribir en el mismo sitio, y exígeles la misma disciplina que le exiges al agente. No basta con que la IA sea fiable. Tiene que serlo el sistema entero, incluidos los atajos que nadie piensa en revisar porque "solo los usamos de vez en cuando".
En la práctica, esa disciplina se reduce a dos reglas que cualquier camino que escriba en el mismo sitio debería cumplir:
- Partir siempre del último estado real, nunca de una copia, un export de hace unas horas o una pantalla que llevaba un rato abierta.
- Nunca sobrescribir a ciegas: si el sistema detecta que el registro cambió desde que se abrió, avisa antes de machacarlo, no lo pisa en silencio.
Checklist antes de dar permisos de escritura a un agente
| Pregunta | Si la respuesta es "no" |
|---|---|
| ¿Existen otros caminos (manuales o de otro sistema) que escriben en el mismo sitio que la IA? | No lo sabes, y por tanto no puedes protegerlo |
| ¿Cada uno de esos caminos parte siempre del último estado, no de una copia? | Cualquiera de ellos puede pisar el trabajo de la IA sin avisar |
| ¿Alguno sobrescribe sin comprobar si el dato cambió desde que se abrió? | Tienes una puerta trasera que deshace el agente sin registro |
| ¿Hay alguna forma de saber, después del hecho, quién escribió qué y cuándo? | Cuando algo desaparezca, no vas a saber si fue el agente o el atajo |
| ¿Se ha probado qué pasa si el agente y un atajo manual escriben casi a la vez? | Lo vas a descubrir en producción, con datos reales, el peor momento |
Si la respuesta a dos o más preguntas es "no", el riesgo no está en la IA: está en todo lo que hay alrededor de ella, y es ahí donde hay que mirar antes de ampliar lo que el agente puede hacer.
Qué hacer si ya tienes una IA escribiendo en tu sistema
- Haz un mapa de quién escribe dónde: la IA, cada integración, y cada persona que tiene acceso directo al mismo dato desde otra pantalla o herramienta.
- Cierra los atajos que no pasan por el mismo control, aunque se usen "poco": son justo los que nadie recuerda auditar.
- Deja registro de cada escritura, venga de la IA o de una persona, con quién y cuándo, para poder reconstruir qué pasó si algo desaparece.
- Prueba el caso conflictivo a propósito: que la IA y un atajo manual escriban sobre el mismo registro casi a la vez, antes de que pase solo en producción. En cómo se prueba un agente de IA contamos cómo lo hacemos antes de dejar que uno toque datos reales.
- Trata cualquier acceso de escritura, sea de una IA o de una persona, con las mismas reglas. El agente no es el único que puede romper algo: es solo el único al que se le suele auditar.
La pregunta que hay que hacerse
No es "¿puedo confiar en mi IA para que escriba sola?". Esa parte, si el agente está bien construido, se resuelve. La pregunta que de verdad importa es: ¿confío igual en todo lo demás que escribe en el mismo sitio? Si la respuesta es que no lo sabes, ese es el trabajo antes de dar más permisos a nadie, humano o IA.
En AutoBoost construimos agentes de IA integrados de verdad en tu ERP, tu CRM o tu sistema real, con los permisos de escritura, las validaciones y el rastro de auditoría que hacen falta para que sean fiables, no solo el día que se estrenan. Puedes ver el resto de proyectos en nuestros servicios y contactarnos si quieres que revisemos qué caminos escriben hoy en tu sistema antes de sumar uno más.
