← Volver al Blog

LLM Gateway multi-upstream: primario, apoyo y exclusión

Llm Gateway Multi Upstream · BionicAdri

En julio de 2026 el gateway de BionicAdri pasó de un único endpoint por modelo a una capa multi-upstream: cada provider declara primario, apoyo y exclusiones. Los agentes ADRI no cambian — el enrutado y el metering sí.

3 roles
primario · apoyo · excluye
14
pools LLM
0
cambios en agentes

Qué cambió en producción

Antes, un provider era un único destino. Si fallaba o se agotaba el crédito de una cuenta (como vimos con planes Token/MiMo), el worker se saturaba o devolvía error. Ahora el LLM Gateway en Laravel expone la topología real:

  • Primario — cuenta preferida (p. ej. suscripción Grok o pool compartido ADRI)
  • Apoyo — PAYG o segundo vendor cuando el primario falla o está en cooldown
  • Excluye — upstreams que no deben recibir cierto tipo de tráfico (texto vs media)
Implementado en códigoPanel capa-1 del gateway con badges multi-upstream, i18n de estados y routing subscription-first para Grok 4.5/4.3. Los pools de media en Agentes vuelven a un nodo xAI limpio porque el par sub/PAYG vive en el gateway.

Por qué importa en empresa

La promesa de BionicAdri es pagar tokens reales, no cajas opacas. Multi-upstream permite:

  • Usar suscripción barata cuando hay cupo, sin tirar a PAYG por defecto
  • Sobrevivir a cortes de un vendor sin cancelar la tarea del usuario
  • Auditar en panel qué upstream respondió y cuánto costó

Relación con ADRI

En /var/Agentes el media pool y los agentes de texto no reimplementan failover de cuenta: delegan en el gateway. Eso cumple una ley interna del proyecto: la complejidad que la infra puede absorber no va al consumidor.

Qué verás en demo

  1. Panel gateway con badges primario/apoyo/excluye por provider
  2. Traza de una consulta que reintenta en apoyo sin error visible al usuario
  3. Línea de billing con tools_used y coste por turno

¿Quieres montarlo en tu tenant? Agenda demo guiada · [email protected]

Prueba un flujo autónomo en 30 minutos.

Te lo montamos en vivo con tus datos.

Agendar demo guiada Blog
WhatsApp