OpenAI 兼容

通过 IteraCompute 将模型与 OpenAI SDK 结合使用。

使用 Python 与 JavaScript 开发。

三步完成连接

1. 创建 API Key

注册或登录 IteraCompute,然后在控制台创建 API Key。

2. 配置 Base URL

Python 使用 base_url,JavaScript 使用 baseURL,然后调用 Chat Completions。

3. 选择模型

使用准确的 API Model ID,启用智能体或视觉功能前确认上下文与模型能力。

选择模型

配置示例

将 API Key 保存在服务端环境或工具凭据存储中;需要手动填写密钥的字段请使用自己的 API Key。

OpenAI 兼容 API
import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.iteracompute.com/v1",
    api_key=os.environ["ITERACOMPUTE_API_KEY"],
)
response = client.chat.completions.create(
    model="qwen/qwen3.8-27b",
    messages=[{"role": "user", "content": "Hello!"}],
    max_tokens=512,
    extra_body={"chat_template_kwargs": {"enable_thinking": False}},
)
text = response.choices[0].message.content
if not text or not text.strip():
    raise RuntimeError("Empty model reply: activation is incomplete.")
print(text)

版本与验证

Python SDK 2.14.0 · Python 3.11.4 · 2026 年 10 月 15 日:使用本地模拟传输验证请求序列化、非空与空回复处理。此项不代表真实 API 调用。JavaScript SDK 版本与端到端结果尚未记录。

成功标准

分别运行两种 SDK 示例;均需打印非空回复,缺少密钥或空回复必须使程序失败。

Record the installed version
python -m pip show openai
npm ls openai

完成下方 API 检查后,还需在配置好的工具内验证。HTTP 200 或 cURL 调用结果本身不能证明工具已接通。

测试连接

cURL · Chat Completions
# Bash / zsh / WSL; set ITERACOMPUTE_API_KEY in your environment first.
curl --fail-with-body https://api.iteracompute.com/v1/chat/completions \
  -H "Authorization: Bearer $ITERACOMPUTE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"qwen/qwen3.8-27b","messages":[{"role":"user","content":"Reply with exactly: Hello!"}],"max_tokens":512}'

确认 choices[0].message.content 包含可见文本;HTTP 200 本身不够。推理可能消耗输出预算。免费 Qwen 可使用首次免费调用示例关闭思考,再在工具中发送提示。

所选模型的能力

以下为所选模型的 API 能力。工作流程能否使用这些能力也取决于工具与配置,推理参数因模型而异。

  • 对话生成支持
  • 工具调用支持
  • 推理支持
  • 图像输入支持
  • 流式输出支持

故障排除

Base URL 字段错误

Python 使用 base_url,JavaScript 使用 baseURL。显式传入 IteraCompute 密钥,SDK 默认读取的环境变量并非 ITERACOMPUTE_API_KEY。

端点不匹配

调用 client.chat.completions.create,读取 choices[0].message.content。Responses 示例与 response.output_text 属于另一套 API;本指南未验证 Qwen 的 Responses 支持。

HTTP 200 但文本为空

content 为空不算文本验证成功。免费 Qwen 示例允许 512 输出 tokens,并关闭思考;该参数仅用于对应模型。

429 / 请求限流

检查账户共享月用量与 TPM,遵循 Retry-After,避免并发重试。免费 Qwen 不会自动付费超额调用;其他模型按公开价格计费。

401 / 403:检查密钥与模型权限。免费 Qwen 无需余额或绑卡;使用付费模型时还需检查可用余额。

OpenAI SDK 官方配置参考 →

通过 OpenAI SDK 开始构建。

连接 API Key,选择模型,发送第一个请求。