guía de integraciónCompatible con OpenAI

Utilice un modelo con LlamaIndex a través de IteraCompute.

Recuperación de energía y flujos de trabajo de agentes.

Obtener clave API Todas las integraciones

Conéctate en tres pasos

1. Cree una clave API

Cree o inicie sesión en su cuenta IteraCompute, luego cree una clave en la consola.

2. Configurar la URL base

Utilice OpenAILike con api_base y configure explícitamente la ventana de contexto del modelo y la capacidad de llamada de herramientas.

3. Selecciona el modelo

Utilice el ID de modelo API exacto para el modelo elegido.Verifique su contexto y capacidades antes de habilitar las funciones de agente o visión.

Elige tu modelo

Modelo utilizado en los ejemplos.

Los ejemplos de Qwen3.8-27B usan el nivel Free: 30M tokens/mes y contexto total de 128K (131072), que incluye la entrada y la salida máxima solicitada. La salida máxima es de 8192 tokens.

Una recarga neta acumulada de $10 desbloquea Starter: 100M tokens/mes, contexto de 128K (131072) y prioridad en la cola. Con $50, Pro ofrece 300M tokens/mes, prioridad en la cola y el contexto máximo del modelo de 256K (262144). Las recargas siguen siendo saldo utilizable de API; no son cuotas mensuales.

Configuración de ejemplo

Mantenga las claves API en su entorno de servidor o almacén de credenciales de herramientas.Reemplace el campo clave de ejemplo con su propia clave cuando corresponda.

Python · pip instalar llama-index-llms-openai-like

import os
from llama_index.llms.openai_like import OpenAILike
from llama_index.core.llms import ChatMessage

llm = OpenAILike(
    model="qwen/qwen3.8-27b",
    api_base="https://api.iteracompute.com/v1",
    api_key=os.environ["ITERACOMPUTE_API_KEY"],
    context_window=131072,
    is_chat_model=True,
    is_function_calling_model=True,
    max_tokens=512,
    additional_kwargs={"chat_template_kwargs": {"enable_thinking": False}},
)
response = llm.chat([ChatMessage(role="user", content="Hello!")])
print(response.message.content)

Versión y verificación

Referencia de configuración · revisado el 2026-10-15.Aquí no se ha registrado una prueba de herramienta reproducible de un extremo a otro.Registre su versión instalada y la fecha de prueba cuando ejecute los pasos a continuación.

Criterio de éxito

Ejecute llm.chat y verifique el contenido del mensaje que no esté vacío.Pruebe la recuperación y la ejecución de herramientas por separado.

Registra la versión instalada

python -m pip show llama-index-llms-openai-like

Pruebe la herramienta configurada después de la verificación de API a continuación.Un resultado HTTP 200 o cURL por sí solo no verifica esa herramienta.

Pruebe la conexión

cURL · Finalizaciones de chat

# Bash / zsh / WSL; set ITERACOMPUTE_API_KEY in your environment first.
curl --fail-with-body https://api.iteracompute.com/v1/chat/completions \
  -H "Authorization: Bearer $ITERACOMPUTE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"qwen/qwen3.8-27b","messages":[{"role":"user","content":"Reply with exactly: Hello!"}],"max_tokens":512}'

Compruebe que opciones[0].message.content contenga texto visible;HTTP 200 por sí solo es insuficiente.El razonamiento puede consumir el presupuesto de producción.Para Qwen gratis, utiliza el ejemplo de primera llamada gratuita para desactivar el pensamiento, luego envíe un mensaje dentro de su herramienta.

Capacidades del modelo seleccionado

Estas son capacidades API del modelo seleccionado.La disponibilidad de funciones en su flujo de trabajo también depende de la herramienta y su configuración;Los controles de razonamiento varían según el modelo.

Finalizaciones de chatApoyado
Llamada de herramientasApoyado
RazonamientoApoyado
Entrada de imagenApoyado
TransmisiónApoyado

Solución de problemas

Metadatos de modelo desconocidos

Utilice OpenAILike de llama_index.llms.openai_like y proporcione context_window e is_chat_model=True.Los metadatos de su modelo deben coincidir con el nivel de cuenta seleccionado.

Herramientas o desajuste de contexto

Establezca is_function_calling_model solo para un modelo que admita herramientas.El contexto Qwen gratuito es 131072, incluida la entrada y la salida solicitada;La salida máxima es 8192.

Falta recuperación o respuesta

Primero verifique que llm.chat devuelva message.content que no esté vacío.Una canalización de recuperación también necesita un índice y un modelo de incrustación configurados;una conexión de chat no verifica la recuperación.

429 / Límites de solicitud

Verifique el uso mensual y el TPM en toda la cuenta.Respete el reintento posterior y evite los reintentos paralelos.Free Qwen no tiene excedente pagado automáticamente;otros modelos utilizan sus precios publicados.

401 / 403: verifique la clave y el permiso del modelo.Qwen gratuito no requiere saldo ni tarjeta.Para modelos pagos, consulta también saldo disponible.

Sigue explorando

LangChain

Conecte modelos a cadenas y agentes.

Referencia de configuración de LlamaIndex →

Comience a construir con LlamaIndex.

Conecte su clave, elija un modelo y envíe su primera solicitud.

Obtener clave API Ver documentos