guía de integraciónCompatible con OpenAI

Utilice un modelo con LiteLLM a través de IteraCompute.

Enrute las solicitudes a través de una interfaz.

Obtener clave API Todas las integraciones

Conéctate en tres pasos

1. Cree una clave API

Cree o inicie sesión en su cuenta IteraCompute, luego cree una clave en la consola.

2. Configurar la URL base

Configure api_base y use openai/ antes del ID del modelo API.Este prefijo son metadatos de enrutamiento LiteLLM.

3. Selecciona el modelo

Utilice el ID de modelo API exacto para el modelo elegido.Verifique su contexto y capacidades antes de habilitar las funciones de agente o visión.

Elige tu modelo

Modelo utilizado en los ejemplos.

Configuración de ejemplo

Mantenga las claves API en su entorno de servidor o almacén de credenciales de herramientas.Reemplace el campo clave de ejemplo con su propia clave cuando corresponda.

API compatible con OpenAI

import os
from litellm import completion

response = completion(
    model="openai/qwen/qwen3.8-27b",
    api_base="https://api.iteracompute.com/v1",
    api_key=os.environ["ITERACOMPUTE_API_KEY"],
    messages=[{"role": "user", "content": "Hello!"}],
    max_tokens=512,
    extra_body={"chat_template_kwargs": {"enable_thinking": False}},
)
print(response.choices[0].message.content)

model_list:
  - model_name: itera-model
    litellm_params:
      model: openai/qwen/qwen3.8-27b
      api_base: https://api.iteracompute.com/v1
      api_key: os.environ/ITERACOMPUTE_API_KEY

Versión y verificación

Referencia de configuración · revisado el 2026-10-15.Aquí no se ha registrado una prueba de herramienta reproducible de un extremo a otro.Registre su versión instalada y la fecha de prueba cuando ejecute los pasos a continuación.

Criterio de éxito

Finalización de la ejecución y, si se utiliza, la ruta del proxy.Marque un campo de contenido que no esté vacío y confirme el modelo ascendente previsto.

Registra la versión instalada

python -m pip show litellm

Pruebe la herramienta configurada después de la verificación de API a continuación.Un resultado HTTP 200 o cURL por sí solo no verifica esa herramienta.

Pruebe la conexión

cURL · Finalizaciones de chat

# Bash / zsh / WSL; set ITERACOMPUTE_API_KEY in your environment first.
curl --fail-with-body https://api.iteracompute.com/v1/chat/completions \
  -H "Authorization: Bearer $ITERACOMPUTE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"qwen/qwen3.8-27b","messages":[{"role":"user","content":"Reply with exactly: Hello!"}],"max_tokens":512}'

Compruebe que choices[0].message.content contenga texto visible;HTTP 200 por sí solo es insuficiente.El razonamiento puede consumir el presupuesto de producción.Para Qwen gratis, utiliza el ejemplo de la primera llamada gratuita a la API para desactivar el pensamiento, luego envíe un mensaje dentro de su herramienta.

Capacidades del modelo seleccionado

Estas son capacidades API del modelo seleccionado.La disponibilidad de funciones en su flujo de trabajo también depende de la herramienta y su configuración;Los controles de razonamiento varían según el modelo.

Finalizaciones de chatApoyado
Llamada de herramientasApoyado
RazonamientoApoyado
Entrada de imagenApoyado
TransmisiónApoyado

Solución de problemas

Proveedor no reconocido

Utilice openai/qwen/qwen3.8-27b para el enrutamiento LiteLLM y api_base=https://api.iteracompute.com/v1.El prefijo openai/ son metadatos de enrutamiento, no forman parte del ID del modelo API.

Modelo de proxy no encontrado

El cliente llama al nombre_modelo desde su configuración de proxy;litellm_params.model contiene el modelo ascendente con el prefijo del proveedor.Comprueba qué nombre estás enviando.

Falta clave o respuesta

Establezca la clave en el proceso LiteLLM, incluido el proceso de proxy cuando se utilice.Confirme que las choices[0].message.content tengan texto antes de probar las políticas de enrutamiento o de respaldo.

429 / Límites de solicitud

Verifique el uso mensual y el TPM en toda la cuenta.Respete el Retry-After y evite los reintentos paralelos.Free Qwen no tiene excedente pagado automáticamente;otros modelos utilizan sus precios publicados.

401 / 403: verifique la clave y el permiso del modelo.Qwen gratuito no requiere saldo ni tarjeta.Para modelos pagos, consulta también saldo disponible.

Sigue explorando

OpenAI SDK

Construya con Python y JavaScript.

Vercel AI SDK

Cree experiencias de IA en TypeScript.

Referencia de configuración de LiteLLM →

Comience a construir con LiteLLM.

Conecte su clave, elija un modelo y envíe su primera solicitud.

Obtener clave API Ver documentos