Model Gateway
Integración API
Integration guide
Todos los consumidores acceden a Futtura OLLM por una sola API key, siempre a través del Model Gateway. Este es el contrato de integración.
Flujo de integración
- 1Crear la API key del consumidor en la consola.Create the consumer API key in the console.
- 2Guardar la key como variable de entorno del servidor, nunca en el cliente.Store the key as a server env var, never in the client.
- 3Llamar al Model Gateway con el header Authorization: Bearer.Call the Model Gateway with an Authorization: Bearer header.
- 4Monitorear tokens, latencia y costo por key en telemetría.Monitor tokens, latency and cost per key in telemetry.
Autenticación
Bearer token per consumer. Rotable desde la consola sin downtime.
curl https://gateway.futtura.ai/v1/chat/completions \
-H "Authorization: Bearer $FUTTURA_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "futtura-ollm-8b",
"messages": [{ "role": "user", "content": "Hola Futtura" }]
}'const res = await fetch(
"https://gateway.futtura.ai/v1/chat/completions",
{
method: "POST",
headers: {
Authorization: `Bearer ${process.env.FUTTURA_API_KEY}`,
"Content-Type": "application/json",
},
body: JSON.stringify({
model: "futtura-ollm-8b",
messages: [{ role: "user", content: "Hola Futtura" }],
}),
},
);
const data = await res.json();Endpoints
POST
/v1/chat/completionsInferencia de texto sobre modelos de Futtura OLLM.
Text inference over Futtura OLLM models.
POST
/v1/embeddingsVectores para búsqueda semántica y RAG.
Vectors for semantic search and RAG.
POST
/v1/audio/transcriptionsSpeech-to-text para agentes de voz.
Speech-to-text for voice agents.
POST
/v1/audio/speechText-to-speech con voces del catálogo.
Text-to-speech with catalog voices.
GET
/v1/modelsModelos y paquetes disponibles para tu key.
Models and packages available to your key.
Errores y cuotas
- 401API key ausente o inválida.Missing or invalid API key.
- 403La key no tiene acceso a ese modelo.Key lacks access to that model.
- 429Cuota o rate limit excedido; reintentar con backoff.Quota or rate limit exceeded; retry with backoff.
- 503Sin capacidad GPU; el orquestador está escalando.No GPU capacity; orchestrator is scaling up.
Siguiente paso
Crea y administra las keys de cada consumidor en la consola.
Ir a la consola →