Saltar al contenido

Documentación

La API habla OpenAI Chat Completions. Cambia la base URL y la key, y deja el resto de tu código igual.

Base URL y autenticación

Todos los requests van a esta base URL:

https://api.cheapllm.wtf/v1

Manda tu API key como bearer token en el header Authorization:

Authorization: Bearer wtf_...
Llámala desde tu servidor
La API no acepta llamadas desde el navegador: no hay CORS. Una key en tu frontend es una key filtrada.

Tu primer request

Los ejemplos de Python y JavaScript usan el SDK oficial de OpenAI, y el de JavaScript también sirve en TypeScript. Solo cambian la base URL y la key.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.cheapllm.wtf/v1",
    api_key="wtf_...",
)

response = client.chat.completions.create(
    model="anthropic/claude-haiku-4.5",
    messages=[{"role": "user", "content": "Hello!"}],
)
print(response.choices[0].message.content)

Streaming

Manda stream: true y la respuesta llega como Server-Sent Events, igual que con OpenAI. Para recibir el uso de tokens en el último chunk, pon stream_options.include_usage en true.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.cheapllm.wtf/v1",
    api_key="wtf_...",
)

stream = client.chat.completions.create(
    model="anthropic/claude-haiku-4.5",
    messages=[{"role": "user", "content": "Hello!"}],
    stream=True,
    stream_options={"include_usage": True},
)
for chunk in stream:
    if chunk.choices:
        print(chunk.choices[0].delta.content or "", end="", flush=True)
    if chunk.usage:
        print("\n", chunk.usage)

Qué llega

Cada evento es una línea data: con un chat.completion.chunk. Con include_usage, el último trae choices vacío y el usage. El stream termina con data: [DONE].

data: {"id":"chatcmpl-req_...","object":"chat.completion.chunk","created":1794268800,"model":"anthropic/claude-haiku-4.5","choices":[{"index":0,"finish_reason":null,"delta":{"role":"assistant","content":"Hel"}}]}

: keep-alive

data: {"id":"chatcmpl-req_...","object":"chat.completion.chunk","created":1794268800,"model":"anthropic/claude-haiku-4.5","choices":[{"index":0,"finish_reason":"stop","delta":{"content":"lo!"}}]}

data: {"id":"chatcmpl-req_...","object":"chat.completion.chunk","created":1794268800,"model":"anthropic/claude-haiku-4.5","choices":[],"usage":{"prompt_tokens":9,"completion_tokens":3,"total_tokens":12}}

data: [DONE]

En pausas largas, por ejemplo mientras un modelo razona, llegan líneas de comentario : keep-alive. El estándar SSE dice que se ignoran, y los SDKs ya lo hacen.

Errores a mitad del stream

Si el modelo falla a mitad del stream, el status 200 ya salió. El error llega como un último chunk, con un objeto error y finish_reason: "error", y después [DONE]. Los SDKs de OpenAI lo lanzan como APIError.

data: {"id":"chatcmpl-req_...","object":"chat.completion.chunk","created":1794268800,"model":"anthropic/claude-haiku-4.5","choices":[{"index":0,"finish_reason":null,"delta":{"role":"assistant","content":"Hel"}}]}

data: {"id":"chatcmpl-req_...","object":"chat.completion.chunk","created":1794268800,"model":"anthropic/claude-haiku-4.5","error":{"message":"The model failed while generating the response.","type":"upstream_error","code":"upstream_error"},"choices":[{"index":0,"delta":{},"finish_reason":"error"}]}

data: [DONE]

Razonamiento

Los modelos de razonamiento mandan lo que piensan en reasoning_content: en delta con streaming y en message sin streaming. Los SDKs de OpenAI no lo tipan, pero tampoco lo descartan: léelo como un campo extra.

Cómo elegir modelo

Cada modelo tiene un ID con la forma autor/modelo, como anthropic/claude-haiku-4.5. Eso es lo que va en model.

El catálogo muestra cada modelo con su precio y su descuento. Desde código, llama a GET /v1/models: es público y no necesita key.

curl https://api.cheapllm.wtf/v1/models

Cómo se cobra

Pagas por token con tus créditos prepagados, al precio cheapllm.wtf de cada modelo.

  • Contamos los tokens que reporta el modelo en usage: prompt_tokens al precio de input y completion_tokens al de output. Los precios son por 1M de tokens.
  • Los tokens de razonamiento son tokens de output: vienen incluidos en completion_tokens.
  • Cada request con respuesta cuesta al menos 0,00001 US$.
  • Si cancelas un stream, pagas todo lo que el modelo generó hasta terminar, no solo lo que te llegó. Para acotarlo, usa max_tokens.
  • El input cacheado se cobra como input normal, por ahora.

Errores

Los errores usan el formato de OpenAI, así que los SDKs los leen como siempre. Los mensajes van siempre en inglés: los lee un programa, y así los puedes buscar.

{
  "error": {
    "message": "Insufficient credits. Top up at https://cheapllm.wtf/dashboard/credits",
    "type": "insufficient_credits",
    "code": "insufficient_credits"
  }
}
HTTPcodeCuándo
400invalid_requestJSON inválido, falta model o messages, o el modelo rechazó un parámetro
401invalid_api_keyLa key falta, está mal formada, no existe o se revocó
402insufficient_creditsTu workspace se quedó sin saldo
402no_active_planLa key solo usa plan y tu workspace no tiene uno
403key_limit_exceededLa key llegó a su límite de gasto
403account_suspendedEl workspace está suspendido, por ejemplo por un contracargo
403model_not_allowed_for_keyLa key no puede usar ese modelo
404model_not_foundEl modelo no existe o no está disponible para ti
410model_retiredEl modelo se retiró
413request_too_largeEl body pesa más de 4,5 MB
429rate_limit_exceededTe pasaste del rate limit del workspace (mira retry-after)
429usage_limit_reachedAgotaste el límite de tu plan y el excedente está apagado (mira retry-after)
502upstream_errorEl modelo falló con un error
503no_upstream_availableEl modelo no está disponible por ahora
504upstream_timeoutEl modelo tardó demasiado en empezar a responder

Toda respuesta de /v1/chat/completions, incluidos los errores, trae el header x-request-id. Si necesitas ayuda con un request, mándanos ese ID.

Rate limit

Por defecto, cada workspace puede hacer 60 requests por minuto, entre todas sus keys. Si te pasas, recibes un 429 con el header retry-after: los segundos que hay que esperar antes de reintentar. Los SDKs de OpenAI ya reintentan solos y lo respetan.

Herramientas compatibles

Todo lo que te deje cambiar la base URL de OpenAI debería funcionar.

HerramientaEstado
SDK de OpenAI (Python, JS/TS)Funciona. Es el cliente de referencia.
LangChain (ChatOpenAI con base_url)Funciona.
Vercel AI SDK (proveedor compatible con OpenAI)Funciona.
Editores que aceptan una base URL de OpenAIDeberían funcionar. Todavía no los probamos uno por uno.
Claude CodeTodavía no: necesita /v1/messages, que llega más adelante.