En la conversación pública sobre inteligencia artificial empresarial se repite un miedo: que un agente autónomo tome una decisión equivocada y nadie lo detenga. Es una preocupación legítima, pero en la práctica no es la que más problemas genera. Lo que hemos visto al implementar agentes que operan negocios reales es otra cosa: el desorden aparece cuando hay varios agentes activos y nadie definió cómo se hablan entre sí.
Un agente suelto es fácil de controlar. Responde en WhatsApp, agenda una cita, consulta un inventario. Tiene un alcance acotado y un dueño claro. El salto de complejidad no ocurre al automatizar la primera tarea, ocurre en la tercera o la cuarta, cuando el agente de atención al cliente, el de cobranza, el de agendamiento y el que registra ventas en el POS empiezan a tocar los mismos datos con lógicas distintas.
El problema no aparece con el primer agente
Piense en un caso corriente en una empresa mediana colombiana. Un agente confirma un pedido por WhatsApp y descuenta inventario. Otro, conectado al ERP, procesa una devolución y lo devuelve. Un tercero, que hace seguimiento comercial, ve stock disponible y le ofrece ese mismo producto a otro cliente. Ninguno se equivocó en su propia tarea. El error nació en el espacio entre ellos: en el orden de las operaciones, en quién tiene la última palabra sobre el dato y en qué pasa cuando dos procesos legítimos se cruzan.
Esa es la parte que rara vez se planifica. Las organizaciones evalúan cada automatización por separado —cuánto ahorra, cuánto tarda en responder— y no evalúan el sistema completo que se está formando. El resultado es una arquitectura que creció por acumulación y que nadie diseñó.
Dónde se rompe en la práctica
Fuentes de verdad duplicadas
Si el agente de ventas consulta una base y el de facturación otra, tarde o temprano habrá dos versiones del mismo cliente, del mismo saldo o del mismo precio. La discusión no es técnica, es de gobierno: qué sistema manda cuando dos sistemas dicen cosas distintas.
Ausencia de trazabilidad de extremo a extremo
Cuando algo sale mal en una cadena de agentes, la pregunta no es "¿qué respondió el bot?" sino "¿qué decisión disparó qué acción, con qué dato y en qué momento?". Sin una bitácora que atraviese todos los canales, la revisión se convierte en arqueología.
Permisos heredados sin criterio
Es común que un agente termine con acceso a más de lo que necesita, simplemente porque se conectó al ERP completo en lugar de a las operaciones específicas que le corresponden. Cada permiso de más es superficie de error, no solo de seguridad.
Escalamiento mal definido
Si nadie estableció el punto exacto donde una conversación o una transacción pasa a manos humanas, cada agente improvisa su propio umbral. Y los clientes lo notan: reciben respuestas distintas al mismo problema según el canal por donde entraron.
Qué implica esto para una empresa en Colombia
El contexto local agrega capas que no se pueden ignorar. Un agente que opera ventas toca facturación electrónica y sus obligaciones ante la DIAN. Uno que gestiona datos de clientes está sujeto al régimen de protección de datos personales de la Ley 1581 de 2012 y a las políticas de tratamiento que la empresa haya registrado. Uno que atiende por WhatsApp opera dentro de las reglas de la plataforma. Nada de esto se resuelve en el modelo de lenguaje: se resuelve en la capa de coordinación, en las reglas que definen qué puede hacer cada agente y bajo qué condiciones.
Hay también una realidad operativa: buena parte del tejido empresarial colombiano funciona con sistemas heterogéneos, un ERP de hace años, un POS de otro proveedor, hojas de cálculo que siguen siendo críticas y procesos que viven en la cabeza de dos o tres personas. Meter agentes ahí sin ordenar primero el flujo de información no automatiza el negocio: automatiza el desorden y lo acelera.
Cómo se diseña para que la complejidad no gane
- Definir un orquestador, no una colección de bots. Alguien —una capa, no una persona— debe decidir qué agente actúa, en qué orden y con qué información compartida.
- Establecer una fuente de verdad por dominio. Inventario, cartera, cliente: cada dominio con un sistema que manda y el resto que consulta.
- Dar permisos por operación, no por sistema. Un agente que agenda no necesita poder facturar.
- Registrar todo en un solo hilo. Una trazabilidad unificada por conversación y por transacción, no logs dispersos por canal.
- Escribir las reglas de escalamiento antes de encender nada. Montos, excepciones, reclamos, casos sensibles. En documento, no en la intuición del equipo.
- Crecer por procesos completos, no por tareas sueltas. Es preferible un flujo bien orquestado de punta a punta que seis automatizaciones aisladas.
Señales de que ya hay un problema de coordinación
Vale la pena revisar si en su operación aparecen síntomas conocidos: clientes que reciben mensajes contradictorios desde canales distintos, cifras que no cuadran entre el reporte comercial y el contable, equipos que revisan manualmente lo que la automatización hizo, o nadie capaz de explicar en una frase qué hace exactamente cada agente activo.
La conclusión es menos dramática de lo que sugieren los titulares sobre autonomía descontrolada, pero más exigente en el día a día. La inteligencia individual de los agentes ya es suficiente para operar buena parte de un negocio; lo que falta casi siempre es la arquitectura que los coordina. Quien esté evaluando poner agentes a operar su empresa debería empezar por ahí: no por cuántas tareas puede automatizar, sino por cómo va a mantener el control cuando esas tareas se conviertan en un sistema.