Model Gateway

Integración API

Integration guide

Todos los consumidores acceden a Futtura OLLM por una sola API key, siempre a través del Model Gateway. Este es el contrato de integración.

Flujo de integración

  1. 1Crear la API key del consumidor en la consola.Create the consumer API key in the console.
  2. 2Guardar la key como variable de entorno del servidor, nunca en el cliente.Store the key as a server env var, never in the client.
  3. 3Llamar al Model Gateway con el header Authorization: Bearer.Call the Model Gateway with an Authorization: Bearer header.
  4. 4Monitorear tokens, latencia y costo por key en telemetría.Monitor tokens, latency and cost per key in telemetry.

Autenticación

Bearer token per consumer. Rotable desde la consola sin downtime.

curl https://gateway.futtura.ai/v1/chat/completions \
  -H "Authorization: Bearer $FUTTURA_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "futtura-ollm-8b",
    "messages": [{ "role": "user", "content": "Hola Futtura" }]
  }'
const res = await fetch(
  "https://gateway.futtura.ai/v1/chat/completions",
  {
    method: "POST",
    headers: {
      Authorization: `Bearer ${process.env.FUTTURA_API_KEY}`,
      "Content-Type": "application/json",
    },
    body: JSON.stringify({
      model: "futtura-ollm-8b",
      messages: [{ role: "user", content: "Hola Futtura" }],
    }),
  },
);
const data = await res.json();

Endpoints

POST/v1/chat/completions

Inferencia de texto sobre modelos de Futtura OLLM.

Text inference over Futtura OLLM models.

POST/v1/embeddings

Vectores para búsqueda semántica y RAG.

Vectors for semantic search and RAG.

POST/v1/audio/transcriptions

Speech-to-text para agentes de voz.

Speech-to-text for voice agents.

POST/v1/audio/speech

Text-to-speech con voces del catálogo.

Text-to-speech with catalog voices.

GET/v1/models

Modelos y paquetes disponibles para tu key.

Models and packages available to your key.

Errores y cuotas

  • 401API key ausente o inválida.Missing or invalid API key.
  • 403La key no tiene acceso a ese modelo.Key lacks access to that model.
  • 429Cuota o rate limit excedido; reintentar con backoff.Quota or rate limit exceeded; retry with backoff.
  • 503Sin capacidad GPU; el orquestador está escalando.No GPU capacity; orchestrator is scaling up.

Siguiente paso

Crea y administra las keys de cada consumidor en la consola.

Ir a la consola →