Documentación

FAQ: ¿Por qué no funciona streaming? en la documentación de NexoRouter.

FAQ: ¿Por qué no funciona streaming?

Streaming todavía no está documentado como feature pública estable verificada. Primero demuestra que el mismo request funciona sin streaming.

Flujo de depuración

  1. Desactiva streaming en el cliente.
  2. Envía el mismo prompt a chat/completions.
  3. Revisa Usage Logs.
  4. Si sin streaming funciona, inspecciona parsing del cliente y buffering del proxy.
  5. Si sin streaming falla, corrige ese error primero.

Causas comunes

  • El proxy hace buffering de chunks.
  • El cliente espera otro formato de eventos.
  • El modelo o proveedor responde lento.
  • La herramienta cambió silenciosamente la forma del endpoint.

Fallback seguro

Usa respuestas sin streaming para primera integración y soporte.

FAQ: ¿Por qué no funciona streaming? — NexoRouter