Documentación

Controla el costo de la API con keys, límites y logs en la documentación de NexoRouter.

Controla el costo de la API con keys, límites y logs

El control de costos empieza antes de la primera solicitud. Usa una key dedicada, una tarifa actual, salida limitada y Usage Logs para hacer visible el gasto.

Entiende la unidad de cobro

Abre la ficha del modelo antes de integrar. Los modelos de chat suelen publicar tarifas separadas de entrada y salida por millón de tokens. Los modelos multimedia pueden usar otra unidad.

No compares modelos hasta que sus unidades de cobro sean equivalentes.

Crea una key de producción limitada

Usa una API key separada por aplicación o entorno. Configura:

  • Un nombre reconocible.
  • Un budget adecuado para el periodo de prueba o producción.
  • Un alcance restringido a modelos revisados.
  • Una fecha de expiración para integraciones temporales.

Nunca expongas una key de NexoRouter en JavaScript del navegador, un paquete móvil, un repositorio público, una captura o un chat de soporte.

Limita cada solicitud

import OpenAI from "openai";

const client = new OpenAI({
  apiKey: process.env.NEXOROUTER_API_KEY,
  baseURL: "https://api.nexorouter.com/v1",
  timeout: 60_000,
  maxRetries: 2,
});

const response = await client.chat.completions.create({
  model: process.env.NEXOROUTER_MODEL,
  messages: [{ role: "user", content: "Return a five-item checklist." }],
  max_tokens: 300,
  temperature: 0.2,
});

console.log(response.usage);

Usa max_tokens para limitar la salida. Recorta historial repetido, rechaza entradas demasiado grandes y limita la concurrencia por usuario.

Los reintentos también consumen capacidad y pueden duplicar trabajo. Reintenta solo errores transitorios, usa backoff, respeta retry-after y fija un máximo de intentos.

Lee Usage Logs

Después de una prueba o incidente, filtra por:

  • API key.
  • Model ID.
  • Status.
  • Periodo de tiempo.

Revisa tokens, costo, latencia y request ID. Comparte el request ID —no la API key— al pedir soporte.

Añade controles en la aplicación

  1. Autentica a cada usuario final.
  2. Aplica rate limit y concurrencia por usuario.
  3. Rechaza prompts que superen tu política de tamaño.
  4. Configura timeout.
  5. Conserva solo los logs necesarios para operación.
  6. Alerta sobre gasto, tasa de error y respuestas 429, 502 o 504 repetidas.
  7. Detén tráfico cuando el saldo prepago o el budget de la key se acerquen al umbral.

Investiga gasto inesperado

  1. Desactiva la key afectada si el abuso está activo.
  2. Filtra Usage Logs por key y periodo.
  3. Agrupa por modelo y status.
  4. Busca prompts largos, max_tokens alto, loops de reintentos o keys expuestas en el cliente.
  5. Reemplaza la key y reduce budget y alcance.
  6. Corrige el control de la aplicación antes de restaurar tráfico.

Páginas relacionadas

Controla el costo de la API con keys, límites y logs — NexoRouter