«¿Cómo ejecutamos nuestros agentes de IA en producción a gran escala?» es la pregunta que todo cliente termina haciendo. Viene acompañada de varias preguntas más. ¿Cómo manejamos miles de solicitudes simultáneas de usuarios de forma segura y con confianza? ¿Cómo nos aseguramos de que los agentes sigan siendo fiables bajo tráfico real en lugar de fallar en silencio? ¿Cómo sabemos si un agente todavía cumple los estándares de calidad y seguridad que superó durante las pruebas? ¿Cuáles son las mejores prácticas de seguridad para agentes? ¿Eso debería ser determinista o no determinista? Y muchas más. Una prueba de concepto no responde ninguna de estas preguntas, porque está construida para demostrar que el modelo del agente puede realizar la tarea, no para sobrevivir al tráfico de producción, a la presión de costos y a la revisión de seguridad.
Esa brecha entre un prototipo funcional y un sistema que funciona de manera confiable, segura, frugal y responsable a gran escala, es donde la mayoría de las iniciativas de IA agéntica se estancan, y rara vez es culpa del modelo. Cada equipo que construye un agente tiende a reconstruir el mismo andamiaje desde cero: su propia lógica de enrutamiento, sus propias barreras de protección, su propia observabilidad, todo aplicado después del hecho en lugar de estar integrado desde el principio. Los equipos necesitan una arquitectura compartida y lista para producción sobre la que cada agente pueda construir.
Esta publicación recorre una arquitectura de referencia componible de siete capas diseñada para llevar aplicaciones de IA multiagente desde el prototipo hasta la escala de producción.
Arquitectura componible
El Pluggable Agentic AI Framework es una arquitectura de referencia para aplicaciones multiagente organizadas en siete capas, cada uno con una responsabilidad distinta y un contrato estable. Los servicios y las tecnologías mostrados en cada capa reflejan la implementación de referencia, no elecciones obligatorias. Las organizaciones pueden sustituirlos por alternativas que se alineen con su infraestructura y requisitos existentes. En conjunto, estas capas ofrecen un plano para construir, proteger y operar aplicaciones de IA agéntica a escala de producción.
Figura 1: Las siete capas del Pluggable Agentic AI Framework
Datos y conocimiento es la base de la IA agéntica. Un agente es tan bueno como los datos a los que puede acceder. Ya sea que un agente esté consultando un formulario de prestaciones de salud, rastreando inventario o interpretando una regla de cumplimiento, necesita información relevante y actualizada para responder correctamente. Esta capa es responsable de la recuperación, los embeddings y el acceso a datos estructurados y no estructurados mediante un contrato y protocolo claros: aceptar una consulta y devolver la información más relevante que actúa como contexto para un agente. Amazon Bedrock Knowledge Base, Vector Engine for Amazon OpenSearch Serverless, Amazon S3 Vectors y Amazon DynamoDB son ejemplos de bloques de construcción para esta base.
Modelo e inferencia : las elecciones deben estar guiadas por la configuración, no fijadas en la lógica del agente o de la aplicación. Use modelos más pequeños y rápidos para tareas simples y modelos más grandes para solicitudes que requieran un razonamiento más matizado. Es importante realizar una evaluación exhaustiva del modelo para el caso de uso que está construyendo, con datos empresariales realistas y representativos. Una capa de enrutamiento de modelos mantiene a los agentes de IA desacoplados del entorno de alojamiento del modelo y de las API específicas del proveedor al confiar en un contrato consistente de solicitud y respuesta. Un proxy como LiteLLM proporciona una interfaz común entre proveedores, de modo que puede cambiar de modelo según sus evaluaciones sin reescribir la lógica de la aplicación.
Orquestación : determina cómo se distribuye el trabajo, y elegir el enfoque correcto es fundamental. Para tareas sencillas, use un solo agente para manejar el trabajo de principio a fin. Para flujos de trabajo complejos y multidominio, use un supervisor que delegue en agentes especialistas, cada uno con un alcance específico y vinculado a un conjunto específico de herramientas. Evite construir un solo agente que lo haga todo. A medida que se acumulan herramientas, instrucciones y contexto, la ventana de contexto crece, la latencia aumenta y la precisión puede verse afectada. Surge la proliferación de herramientas, lo que puede llevar a los agentes más allá de sus límites previstos, provocando acciones no deseadas y brechas de seguridad. Dividir las responsabilidades mantiene el contexto de cada agente enfocado y hace que la latencia sea más predecible. También puede probar el comportamiento de cada agente, escalarlo y definir su modelo de seguridad de forma independiente. Aplique autonomía acotada: los especialistas deben ejecutarse estrictamente dentro de las herramientas que se les han otorgado, y nada más.
Además de descomponer en especialistas específicos y establecer su límite, desacopla los agentes especialistas de los agentes supervisores. Permite que el supervisor descubra a los especialistas desde un registro centralizado de agentes e invoque a través de un protocolo estandarizado como MCP (Model Context Protocol) y A2A (Agent to Agent). Mantén un registro centralizado de agentes que cataloga las herramientas, habilidades y propietario de cada agente. Esto le da a tu organización la visibilidad que necesita para gobernanza a escala, aumenta la velocidad de implementación de agentes de IA mediante la reutilización y evita el costo del desarrollo repetitivo. Considera usar Strands Agents para los especialistas, Amazon Bedrock AgentCore harness para el orquestador, AWS Agent Registry y Amazon Bedrock AgentCore Gateway para el descubrimiento y enrutamiento centralizados.
La seguridad y las barreras de protección deben ser una preocupación principal, incorporadas en el diseño desde el primer día. La IA agéntica expone a las organizaciones a una nueva clase de riesgos que los marcos de seguridad convencionales no fueron diseñados para abordar, desde la inyección de prompts y el uso indebido de herramientas hasta el envenenamiento de memoria y datos. Trata todo el contenido externo como no confiable por defecto. Autentica cada solicitud, ya sea de un usuario, otro agente o un flujo de trabajo automatizado, a través de un servicio como Amazon Bedrock AgentCore Identity. Luego usa control de acceso de grano fino para determinar si cada llamada a herramienta está permitida antes de la ejecución. Otorga a los agentes credenciales temporales y con alcance limitado en lugar de secretos persistentes. En cuanto a la protección de datos, enmascara datos sensibles como PHI (Personal Health Information) y PII (Personally Identifiable Information) en las solicitudes y respuestas de agentes y herramientas, de modo que la información sensible de los clientes no aparezca en las salidas de los agentes ni permanezca en memoria. Para la rendición de cuentas, registra cada decisión significativa en una pista de auditoría a prueba de manipulaciones, enruta las acciones de alto impacto a través de una puerta de aprobación humana y despliega interruptores automáticos para detener el comportamiento anómalo antes de que pueda escalar. Considera usar Amazon Bedrock Guardrails para las entradas de usuario, Amazon Bedrock AgentCore Identity y Policy in Amazon Bedrock AgentCore para autenticación y control de acceso, junto con los controles de seguridad y gobernanza de AWS para lograr una seguridad de defensa en profundidad.
La aplicación es donde vive la experiencia del usuario final, ya sea una interfaz de chat, una superficie de API o un widget incrustado. Mantén esta capa intencionalmente delgada. Sus únicas responsabilidades deben ser presentar la conversación y pasar las solicitudes a la capa de orquestación que hay debajo. Resiste la tentación de incrustar lógica de negocio aquí. Cuanto más limpia sea la separación, más fácilmente podrás iterar en la experiencia de usuario sin desestabilizar el backend. Un modelo de decisión puede ubicarse en este límite como una verificación rápida y económica: en una llamada puntúa si una solicitud está dentro del alcance, necesita un humano o es urgente, devolviendo probabilidades en lugar de texto libre. Tu código actúa sobre esas puntuaciones con umbrales simples, respondiendo directamente las solicitudes fuera de tema y marcando las escalaciones, de modo que el bucle agéntico completo se ejecuta solo cuando agrega valor. Al construir la capa de aplicación, piensa en lo que se necesitaría para que otro agente de IA pueda consumir e interactuar con tus agentes de IA junto con los humanos. Construye tus interfaces externas en consecuencia.
La observabilidad debe vigilar cada capa desde el primer día, no después del primer incidente. Junto con los registros y las métricas, los trazas de agente de extremo a extremo son críticos para medir si el agente realizó su tarea correctamente. Junto con la traza, recopila el costo y el uso de tokens por solicitud, el tiempo hasta el primer token, si la llamada es segura, y presenta paneles de latencia, tasas de error y gasto antes de salir a producción. La monitorización proactiva es más barata que la extinción de incendios reactiva. Considera usar Amazon CloudWatch con OpenTelemetry junto con Amazon CloudWatch Omni para trazas y métricas y así obtener visibilidad integral de tu stack.
Las operaciones agénticas cierran el ciclo con evaluación continua, así que configúralas desde el primer día. Puntúa cada sesión de producción en cuanto a fundamentación, precisión y seguridad, y establece una puerta de regresión para detectar caídas de calidad antes de que lleguen a los clientes. Sin esto, solo sabes que el agente funcionó en el lanzamiento. Con ello, puedes demostrar que sigue funcionando después de cada versión posterior. Considera usar Amazon Bedrock AgentCore Evaluations para la puntuación y Amazon Bedrock AgentCore optimization para el ajuste continuo del rendimiento.
Implementación de referencia para un agente de soporte al cliente de retail
Figura 2: Flujo funcional de la implementación de referencia de soporte al cliente minorista
Para dar vida a la arquitectura, el marco incluye una implementación de referencia lista para ejecutar basada en un escenario de soporte al cliente minorista que cubre el estado del pedido y la elegibilidad para reembolsos. Elegimos este caso de uso porque ejercita cada capa de la pila a la vez que permanece lo suficientemente intuitivo para que un equipo pueda seguirlo y adaptarlo a sus propias necesidades.
Un agente supervisor recibe la solicitud de reembolso de un cliente y delega en un agente de Pedidos y en un agente de Reembolsos, cada uno especialista con un conjunto delimitado de herramientas. El agente de Pedidos consulta los detalles de entrega y compra en Amazon DynamoDB. El agente de Reembolsos recupera reglas de políticas basadas en niveles desde una base de conocimientos y calcula la elegibilidad usando la fecha de entrega, la fecha actual y el nivel de fidelidad del cliente. Cada una de estas llamadas pasa por el AgentCore Gateway, que aplica control de acceso de grano fino antes de que una herramienta se ejecute con Policy in AgentCore, y cada llamada se rastrea de extremo a extremo a través de la capa de observabilidad, de modo que cuando un cálculo sale mal, el rastro muestra exactamente qué capa y qué punto de decisión lo causó.
Cualquiera que construya un patrón similar de supervisor y especialistas puede clonar la implementación de referencia y sustituir su propia lógica de dominio capa por capa.
Por qué la conectabilidad importa tanto como las propias capas
El valor de una arquitectura de siete capas no reside solo en cómo separa las responsabilidades, sino en la rapidez con la que cada capa puede evolucionar. La conectabilidad hace eso posible. Los contratos estables en los límites de las capas, desde las comprobaciones de identidad y las políticas de acceso hasta las interfaces de telemetría, le permiten cambiar la tecnología subyacente sin rediseñar el resto de la pila. En esencia, adopte un enfoque de arquitectura primero para construir sistemas de IA agéntica en lugar de un enfoque impulsado por la tecnología.
El marco pone esto en práctica demostrando la conectabilidad mediante integraciones con proveedores externos en las distintas capas: proveedores de modelos y de alojamiento en la capa de inferencia, capacidades de búsqueda en la capa de orquestación, APIs de decisión en la capa de aplicación, guardarrails en la capa de seguridad, y soluciones de rastreo y monitoreo de agentes en la capa de observabilidad junto con el seguimiento del valor comercial y los costos. Admite proveedores que siguen estándares de la industria en cada capa, de modo que puede componer soluciones que cumplan sus requisitos específicos.
Para las empresas, la flexibilidad protege las inversiones existentes. Los equipos pueden conservar las herramientas de observabilidad, seguridad e inferencia en las que ya confían, llenar los vacíos donde sea necesario y adoptar nuevas capacidades de manera incremental. La arquitectura proporciona una base consistente sin exigir que cada decisión tecnológica provenga del mismo proveedor.
Conclusión
Un prototipo funcional demuestra lo que un agente puede hacer. Una arquitectura bien diseñada determina si su empresa puede depender de él. Pasar a operaciones de IA significa diseñar la seguridad, la gobernanza, la visibilidad, los controles de costos, la confiabilidad y la adaptabilidad en el diseño desde el primer día, no agregarlas después de construir el sistema.
El Pluggable Agentic AI Framework incorpora esas preocupaciones en una arquitectura con un principio claro: construir una base estable sin fijar cada elección tecnológica. Los modelos cambiarán. Las herramientas evolucionarán. Los requisitos del negocio se transformarán. Su arquitectura debería hacer que esos cambios sean manejables, no convertir cada uno en una reconstrucción.
Ponga ese principio en práctica. Comience con la experiencia de Workshop Studio, explore el repositorio público de ejemplos, y use la implementación práctica como punto de partida para su propia arquitectura. No es un sustituto del endurecimiento de seguridad, las pruebas y la revisión para producción.
Construya las capacidades que necesita hoy y la flexibilidad que necesitará mañana.