Tu agente de IA ahora revisa la respuesta antes de enviarla

Casi todo dueño de negocio que piensa en poner un agente de IA en WhatsApp tiene el mismo miedo: ¿y si la IA inventa algo? Un horario en el que la tienda no abre, un descuento que no existe, un plazo de entrega que nadie prometió.

El miedo es justo. Los modelos de lenguaje escriben bien y con seguridad, incluso cuando no saben la respuesta. Por eso, XBASE ahora tiene guardrails: antes de que la respuesta del agente llegue a tu cliente, se revisa. Si no está bien, no sale, y el agente responde de nuevo, ya sabiendo qué corregir.

---

Por qué esto importa para tu negocio

Una respuesta equivocada de la IA no es solo un texto malo. Para el cliente, quien habló fue tu empresa.

• Lo que la atención promete, la empresa lo cumple. Según el Código de Defensa del Consumidor de Brasil, la información que se le da al cliente sobre un producto o servicio obliga al proveedor y pasa a formar parte del contrato (art. 30). No importa si la escribió un agente humano o un robot.
• Ya pasó en otros países. En 2024, Air Canada fue condenada a pagarle a un cliente porque el chatbot de su sitio informó una regla de reembolso que la empresa no tenía. El tribunal entendió que la empresa responde por lo que dice su propio chatbot.
• Una respuesta inventada cuesta más que una respuesta lenta. Corregir una promesa equivocada da más trabajo (y desgasta más la relación) que decir "voy a confirmarlo con el equipo".

Unas instrucciones bien escritas reducen el problema, pero no lo eliminan. El agente todavía puede llenar un vacío con algo que "parece correcto".

---

Cómo funciona la revisión de la respuesta

Cada vez que el agente escribe una respuesta, pasa por una revisión automática antes de enviarse. La revisión mira lo que configuraste:

• Sin base en las instrucciones: ¿la respuesta afirma un precio, horario, plazo o regla que no está en las instrucciones del agente, en las fuentes que consultó ni en la conversación? Aquí es donde aparece la alucinación.
• No respondió: ¿el agente esquivó la pregunta, repitió una pregunta que el cliente ya respondió o pidió un dato que ya se había informado?
• Fuera del objetivo: ¿la respuesta no ayuda con ninguno de los objetivos que definiste para el agente (agendar, vender, resolver dudas)?
• Contradice una regla: ¿el agente prometió algo que las instrucciones prohíben?
• Datos no permitidos: ¿la respuesta trae un correo, teléfono o número sensible que no está en la lista de lo que se puede compartir? El contacto de tu empresa que está en las instrucciones sigue permitido.
• Tono: ¿la respuesta es irrespetuosa?

Cuando la respuesta se rechaza, no llega al cliente. El agente recibe el motivo y una orientación sobre cómo corregirla, y responde de nuevo al mismo mensaje. Si la segunda respuesta tampoco pasa:

• por un motivo grave (como información sin base), el cliente recibe un mensaje de espera que tú escribes, por ejemplo "Voy a confirmar esta información con el equipo y enseguida te respondo", y la conversación pasa al equipo;
• por un motivo leve, la respuesta sale y la conversación queda marcada para que la revises después.

La revisión vale para el agente en todos los canales: WhatsApp, Instagram, correo y el chat del sitio.

---

Empieza solo observando

No necesitas activar todo de una vez. Cada verificación tiene dos opciones:

1. Solo registrar: la respuesta sale normalmente y la revisión queda guardada para que le des seguimiento. Es la forma de ver, con conversaciones reales, dónde se equivoca el agente antes de cambiar cualquier cosa para el cliente.
2. Rechazar y volver a ejecutar: la respuesta rechazada se retiene y el agente responde de nuevo.

El camino que recomendamos: déjalo en Solo registrar algunos días, lee las respuestas que se habrían bloqueado y ajusta las instrucciones del agente. Cuando te sientas seguro, cambia las verificaciones más importantes (como Sin base en las instrucciones) a Rechazar y volver a ejecutar.

---

Dónde darle seguimiento

• En la pestaña Guardrails del agente, el resumen de los últimos 7 días muestra cuántas respuestas se revisaron, se rechazaron y se rehicieron.
• En Aprendizajes → Respuestas revisadas, ves cada respuesta bloqueada, el motivo y la orientación, y abres la conversación.
• En el Chatcenter, la conversación muestra el aviso Respuesta revisada cuando se bloqueó algo (solo tu equipo lo ve).

---

Lo que la revisión no hace

Vale la pena ser claros sobre los límites:

• No reemplaza unas buenas instrucciones. La revisión compara la respuesta con lo que sabe el agente. Si la información correcta no está en las instrucciones, lo mejor que puede hacer es retener la respuesta inventada y hacer que el agente diga que lo va a confirmar.
• Agrega un poco de tiempo. Con Rechazar y volver a ejecutar, cada respuesta espera la revisión, que suele tardar uno o dos segundos; cuando la respuesta se rehace, el agente se ejecuta de nuevo (y esa nueva respuesta consume créditos como cualquier otra).
• No es infalible. Es una segunda lectura automática, no una garantía. Por eso existen el mensaje de espera y el traspaso al equipo en los casos graves.

---

Preguntas frecuentes

¿El cliente ve la respuesta que se bloqueó? No. Con Rechazar y volver a ejecutar, la respuesta rechazada no se envía. El cliente recibe solo la nueva respuesta o el mensaje de espera.

¿Tengo que escribir las reglas de la revisión? No. Las verificaciones ya vienen listas: activas las que quieras y eliges la acción de cada una. Si quieres, puedes ajustar las verificaciones con el botón Editar decisión.

¿Funciona con el agente que ya tengo? Sí. Los guardrails están en la pestaña Guardrails de cada agente y vienen desactivados: nada cambia hasta que los actives.

---

Para ver cada verificación y el paso a paso de configuración, lee la documentación Guardrails del agente.

Fuentes

• Código de Defensa del Consumidor de Brasil (Ley n.º 8.078/1990), art. 30.
• Moffatt v. Air Canada, 2024 BCCRT 149 (Civil Resolution Tribunal de la Columbia Británica, Canadá).