AI Observabilidad de los agentes para los límites de tipos: Medida de retiro después de la deuda

Un HTTP 429 por sí mismo no significa que un agente AI está atascado. Tratar la carrera como waiting sólo mientras se mantengan cuatro pruebas: se conoce el límite de no antes del proveedor, se programará una nueva prueba duradera en o después de ese límite, se mantendrá la autoridad de prueba de nuevo y el resultado esperado seguirá teniendo un límite límite. Si alguna prueba falla, el operador necesita un diagnóstico diferente y no otro ensayo genérico. Esta distinción es importante porque el mismo proceso tranquilo puede ser una presión saludable, un ciclo de retoma temprano, un despertar perdido o una tarea que ya no puede terminar a tiempo. El conteo de las solicitudes y la actividad del proceso no pueden distinguir esos estados. Respuesta corta: esperar sólo mientras las cuatro pruebas se mantengan Comience con un contrato de evento para cada llamada acelerada: Luego evalúa las pruebas en este orden: 1. Limitar: ¿Puede el cliente normalizar la señal del proveedor a retry not before ? 2. Wake: ¿Hay un retiro programado duradero en o después de ese instante? 3. A Autoridad: ¿Tiene la carrera todavía un intento permitido, tiempo y presupuesto de costos? 4. O Resultado: ¿Deja outcome deadline retry not before suficiente tiempo para completar y verificar el trabajo previsto? Una carrera no es saludable sólo porque duerme hasta el segundo correcto. Supongamos que el proveedor pide una espera de 15 minutos pero el producto debe ser entregado en 10 minutos. El cliente puede obedecer el protocolo perfectamente mientras la tarea ya está operativamente perdida. Escala ese conflicto en lugar de mostrar una espera verde. Definir una métrica de diagnóstico local: retry after debt ms se introduce aquí como una medida operativa, no como un campo HTTP, factura de proveedor o SLO universal. Se separa el tiempo deliberadamente entregado a la presión contra el proveedor de la ejecución del modelo, el trabajo de las herramientas, el retraso del programador y la verificación de resultados. Tendencia por período y por el alcance de las cuotas; no combine inquilinos o recursos no relacionados en un total engañoso. Registrar el límite del proveedor antes de juzgar al agente RFC 6585 define HTTP 429 como Too Many Requests. Una respuesta puede incluir Retry After , pero el estándar deliberadamente no define si el proveedor cuenta por credenciales, recursos, servidor u otro alcance. Por lo tanto, su evento de salud necesita tanto la respuesta como la mejor clave de alcance de cuota disponible. Una etiqueta global provider throttled es demasiado gruesa cuando sólo se limita a un proyecto o punto final. HTTP Semántica define Retry After como una fecha HTTP o un retraso no negativo en segundos. Conservar el valor bruto para la investigación, pero normalizarlo inmediatamente: Para una fecha HTTP, graba el desplazamiento del reloj del cliente si puede. Para un campo perdido o inválido, fije el límite en desconocido. Una política puede entonces elegir un backkoff exponencial limitado, pero la observabilidad debería decir uncertain boundary ; no debería inventar el permiso del proveedor para volver a intentarlo. El calendario local necesita su propio recibo. Almacenar scheduled retry at , ID de trabajo del programador, número de intento y el último latido cardíaco confirmado del programador. Cuando se inicie una nueva prueba, emita retry started at ; cuando el proveedor responda, emita retry finished at y el nuevo estado. Eso hace que dos fracasos opuestos sean visibles: ERarly retry loop: retry started at < retry not before . El cliente está añadiendo presión antes del límite declarado. Missed wake: tiempo actual excede scheduled retry at + wake grace , pero no existe recibo de inicio de ensayo de nuevo. La ausencia de tráfico es saludable en la primera ventana de espera y no saludable después de la gracia de la vigilia. El silencio por sí solo no es un estado. Una aplicación concreta de la producción refuerza la necesidad de una autoridad limitada. El Guía de prueba de nuevo de AWS SDK separa el estrollo de los fallos transitorios, utiliza retrocesos exponenciales con jitter y se detiene cuando se agotan los intentos máximos o las cuotas de retoma. Los retrasos exactos de AWS no son una política de agente universal. La lección reutilizable es exponer la clasificación, el retroceso y detener las condiciones en lugar de ocultarlas dentro de una biblioteca cliente. Ejecutar la auditoría de seis casos La fijación inspectable para este artículo fija now en 2026 07 26T18:42:00Z y da una instantánea de 429 a cada ejecución. La auditoría aplica una gracia de espera de 30 segundos y verifica la recuperación antes de los estados de fallo, luego el presupuesto, la fecha límite, el retiro temprano, la espera perdida y la espera válida. Las seis filas NDJSON producen seis resultados diferentes: Healthy wait waiting backpressure : un límite de 60 segundos, vigilancia alineada, tres intentos y nueve minutos de espacio de cabeza. Ecircuito temprano early retry loop : un nuevo ensayo comienza 105 segundos antes del límite del proveedor. Missed wake stuck missed wake : el tiempo programado y el pase de gracia sin un recibo de retoma. Linea de entrega bloqueada deadline exhausted : el no antes de aterriza instantáneamente cinco minutos después de la fecha límite del resultado. Presupuesto agotado retry budget exhausted : el límite es corto, pero no queda ningún intento autorizado. Recovered recovered : un retorno post fronterizo de 200 y un recibo de resultado sigue. El total medido es de 1.230.000 milisegundos de repetición después de la deuda: 20,5 minutos a través de los seis instantáneos. Este número es útil porque es inspeccionable, pero no es automáticamente malo. 60 segundos en la espera saludable es intencional. Nuevecientos segundos en la carrera bloqueada por el plazo es decisivo porque el espacio restante es negativo. Interpretar la deuda junto a los resultados, no como una puntuación independiente. La fila de recuperación también evita un éxito falso común. Una respuesta de 200 demuestra que se ha completado una nueva prueba; no demuestra que el agente haya producido el archivo solicitado, enviado el mensaje aprobado, actualizado el registro o aprobado la validación. Cerrar el incidente sólo cuando un recibo de resultado determinista coincida con la ejecución original y el rendimiento esperado. Transformar cada estado en una acción limitada Utilice una acción por diagnóstico: Para el waiting backpressure , deje la carrera en paz y verifique que la vigilancia duradera aún exista. Para early retry loop , detener la ruta de retoma, preservar el límite del último proveedor e inspeccionar si varias capas de retoma están multiplicando las solicitudes. Para stuck missed wake , ejecuta una comprobación del programador. Recrear o activar un nuevo intento sólo dentro de la autoridad original y intentar el presupuesto. Para deadline exhausted , notifique al propietario que el resultado actual no puede cumplir su plazo. No ocultas el conflicto con un tiempo más largo. Para retry budget exhausted , detener y hacer surface la evidencia del proveedor final. Un presupuesto más grande es una decisión política humana. En el caso de recovered , verifique el resultado previsto antes de liquidar el asunto. Para un límite desconocido o el alcance de la cuota, marque el estado incierto y recopile pruebas; no adivine que el agente sea saludable o roto. Mantenga la limitación cerca de la decisión. Los proveedores pueden omitir el Retry After , exponer varias cuotas superpuestas o limitarse a un intermediario. Los relojes pueden deslizarse. Los SDK pueden volver a intentar internamente antes de que el tiempo de ejecución del agente vea un error. Instrumentar la capa más baja que puede exponer los recibos de intento, luego correlacionar hacia arriba por ejecutar e intentar IDs. Nunca fichas de portadores de registros, pedidos, cuerpos de respuesta, o llaves de cuota secretas sólo para diagnosticar el momento. Sidewisp se encuentra actualmente en versión preliminar privada. El sitio público y el sistema de artículos están en vivo, pero la colección de agentes de producción salud, adaptadores de tiempo de ejecución, administración de cron, análisis de costos de tokens y recuperación generalmente no se envían. El Sidewisp no es un sistema de control de la empresa, ni un dispositivo de control autónomo. La razón práctica para unirse a la vista previa privada es ayudar a dar forma a la evidencia de salud como los límites de los proveedores, las vigilias duraderas, los presupuestos de los ensayos y los resultados verificadosno para obtener una capacidad de monitoreo que ya está disponible en general. La regla de funcionamiento es estrecha: el proveedor de honor reprimida, pero no confundir la espera conforme con el progreso saludable. Una carrera limitada en velocidad solo se mantiene saludable mientras su límite, vigilancia, autoridad y fecha límite de resultado coincidan; después del retiro, solo el resultado previsto cierra el ciclo.