u-Site / blog
IA y automatización

Alcance y límites de un agente de IA con clientes

Qué conversaciones conviene delegar en un agente de IA, cuáles no, y los controles que separan una buena implementación de un riesgo.

Chat de atención donde un asistente de IA transfiere la conversación a un asesor humano.

U-SITE  ·  Inteligencia artificial  ·  Lectura de 5 minutos

Los agentes de inteligencia artificial que conversan con clientes pasaron de los pilotos a la operación diaria, atendiendo por WhatsApp, por el chat del sitio web o por los canales de redes sociales de empresas de todos los tamaños. La tecnología para montarlos se volvió accesible, y con eso la decisión importante cambió de lugar: ya casi cualquier empresa puede tener uno, y lo que separa una buena implementación de un problema con clientes reales es la definición de qué conversaciones se le entregan, con qué información cuenta y qué permisos recibe.

Las conversaciones que conviene delegar

Un agente rinde desde el primer día en las consultas que comparten tres condiciones verificables. La respuesta existe en un sistema de la empresa, como el catálogo, el calendario de citas o el estado de un pedido; el costo de un error es bajo, porque una respuesta imprecisa se corrige sin consecuencias; y la conversación tiene un objetivo acotado que se cumple o se escala. Horarios y ubicaciones, disponibilidad y características de productos, agendamiento de citas, estado de órdenes y las preguntas que el equipo humano responde diez veces al día caben completas en esa descripción.

La respuesta vive en un sistema. Catálogo, calendario, estado del pedido: el agente consulta, no inventa.
El error cuesta poco. Una imprecisión se corrige sin consecuencias comerciales ni legales.
El objetivo es acotado. La conversación se resuelve o se escala, sin zonas grises.

En ese terreno el agente aporta lo que una persona no puede: respuesta inmediata a cualquier hora, el mismo tono en la conversación doscientos como en la primera, y capacidad de atender picos de demanda sin cola. Para una empresa que recibe consultas fuera del horario laboral, el solo filtro nocturno suele justificar la implementación, porque el cliente que escribe a las nueve de la noche y recibe respuesta útil en segundos es un cliente que no se fue a cotizar con el competidor al día siguiente.

Las conversaciones que no conviene delegar

Los modelos de lenguaje que motorizan estos agentes producen texto plausible incluso cuando no tienen la información, y lo hacen con el mismo tono seguro de una respuesta correcta. Ese comportamiento, conocido como alucinación, se reduce con buena ingeniería y no se elimina. La consecuencia práctica es que el alcance del agente debe excluir las conversaciones donde una respuesta inventada tiene costo real.

Los precios y las condiciones comerciales encabezan esa lista. Lo que el agente le dice a un cliente funciona como una oferta de la empresa, y un descuento inventado o un plazo de entrega imposible generan un compromiso que después alguien tiene que honrar o deshacer. Como ejemplo hipotético, un agente al que se le pregunta con insistencia por un descuento puede terminar concediendo uno que no existe, con tal de dar una respuesta satisfactoria; ese patrón está documentado y es la razón por la que la información comercial sensible se responde desde reglas fijas o se escala a una persona.

El agente resuelve
  • Horarios, ubicaciones y cobertura
  • Disponibilidad y características de productos
  • Agendamiento de citas
  • Estado de pedidos y órdenes
  • Preguntas frecuentes verificables
Pasa a una persona
  • Precios, descuentos y condiciones comerciales
  • Pagos, reembolsos y cancelaciones
  • Datos personales y financieros
  • Reclamos y clientes molestos
  • Todo lo que no esté en su base aprobada

Las operaciones irreversibles piden el mismo tratamiento. Procesar pagos, emitir reembolsos, cancelar servicios o modificar datos de una cuenta son acciones que un agente puede ejecutar técnicamente, y que en una implementación cuidadosa requieren confirmación humana o del propio cliente por un canal verificado. Los datos personales y financieros añaden la dificultad de confirmar la identidad de quien escribe antes de revelar cualquier cosa. Los reclamos de clientes molestos, por último, rara vez terminan bien en manos de un sistema automático, porque la persona que ya está frustrada interpreta cada respuesta genérica como una confirmación de que a la empresa no le importa.

Controles previos a la salida a producción

Recomendamos tratar la configuración de límites como parte del alcance del proyecto y no como un ajuste posterior. El agente responde únicamente desde una base de conocimiento aprobada por la empresa, y cuando la respuesta no está ahí, lo dice y deriva, en lugar de completar con lo que el modelo crea razonable. Las herramientas que se le conectan siguen el principio de mínimo permiso: consultar el estado de un pedido no requiere la capacidad de modificarlo, y cada permiso adicional se otorga cuando la operación lo justifica.

¿Y me pueden dar un descuento en la próxima compra?
Esa información la maneja nuestro equipo comercial, así que prefiero no darte un dato impreciso. Te conecto con una persona que puede ayudarte.
Transfiriendo la conversación a un asesor humano…

El escalamiento a una persona se define por escrito antes de salir: qué temas pasan directo a un humano, qué señales de frustración disparan la transferencia y cuántos intentos fallidos se toleran antes de derivar. Todas las conversaciones quedan registradas y alguien las revisa con regularidad, porque los errores de un agente son silenciosos y solo aparecen leyendo lo que respondió. El agente se presenta como asistente automático desde el primer mensaje, una práctica que la regulación de varios países ya exige y que de todos modos conviene, porque el cliente que descubre tarde que hablaba con una máquina pierde confianza en todo lo anterior.

Base aprobada
Responde solo desde el conocimiento validado por la empresa; lo que no está ahí, se deriva.
Mínimo permiso
Consultar no es modificar; cada permiso adicional se justifica por separado.
Escalamiento definido
Temas, señales de frustración e intentos fallidos que transfieren a una persona, por escrito.
Registro y revisión
Toda conversación queda guardada y alguien la lee con regularidad.
Identificación
Se presenta como asistente automático desde el primer mensaje.
Pruebas adversarias
Antes de salir, usuarios internos intentan sacarle descuentos, datos ajenos y respuestas fuera de alcance.

Antes del lanzamiento, el agente se somete a pruebas adversarias: usuarios internos intentando sacarle descuentos, datos de otros clientes, opiniones sobre la competencia y respuestas fuera de su alcance. Lo que falle en esas pruebas iba a fallar con clientes reales.

Las implementaciones que funcionan comparten una trayectoria: salen a producción con un alcance corto y bien resuelto, miden la tasa de conversaciones resueltas sin intervención humana, la calidad del escalamiento y la satisfacción del cliente, y amplían el alcance cuando los números lo respaldan. El camino inverso, lanzar un agente que promete atenderlo todo y recortarle funciones a medida que comete errores públicos, cuesta más caro en reputación de lo que la automatización ahorra en horas. Un agente con límites claros que resuelve bien el ochenta por ciento de las consultas y entrega el resto a una persona es un activo comercial; la diferencia la define el trabajo de alcance que se hizo antes de conectarlo al primer cliente.

Imágenes generadas con IA

NJ
Natalia Jaimes
Escribe sobre integración de sistemas, infraestructura y continuidad operativa a partir de proyectos de desarrollo e implementación para empresas en Colombia.
Del mismo tema