FAQ: ¿Cómo debería usar max_tokens?

max_tokens limita el tamaño de la respuesta del modelo. No reduce los tokens que ya están en tu prompt.

Cuándo configurarlo

Qué no soluciona

• No hace que un prompt demasiado grande quepa.
• No cambia la capacidad de contexto del modelo elegido.
• No reduce el costo de tokens de entrada.
• No arregla request_too_large si el input ya es demasiado grande.

Si la salida se corta

1. Aumenta max_tokens moderadamente.
2. Pide al modelo un formato más corto.
3. Divide la tarea en secciones.
4. Revisa Usage Logs para completion tokens y costo.

Relacionado

• Request demasiado grande
• Costo de modelo y request
• Referencia Chat Completions