1. API 키 생성
IteraCompute 계정을 생성하거나 로그인한 다음 콘솔에서 키를 생성하세요.
3단계로 연결
2. 기본 URL 구성
api_base와 함께 OpenAILike를 사용하고 모델 컨텍스트 창 및 도구 호출 기능을 명시적으로 구성합니다.
3. 모델을 선택하세요
선택한 모델에 대한 정확한 API 모델 ID를 사용하세요.에이전트 또는 비전 기능을 활성화하기 전에 해당 컨텍스트와 기능을 확인하세요.
모델을 선택하세요
Qwen3.8-27B 예시는 Free 등급을 사용합니다. 월 30M tokens와 입력 및 요청한 최대 출력을 합한 128K(131072) 총 컨텍스트를 제공합니다. 최대 출력은 8192 tokens입니다.
누적 순 충전액이 $10에 도달하면 Starter가 활성화되어 월 100M tokens, 128K(131072) 컨텍스트와 대기열 우선권을 제공합니다. $50에 도달하면 Pro가 활성화되어 월 300M tokens, 대기열 우선권과 모델 최대치인 256K(262144) 컨텍스트를 제공합니다. 충전액은 API 잔액으로 사용할 수 있으며 월 요금이 아닙니다.
예시 구성
서버 환경이나 도구 자격 증명 저장소에 API 키를 보관하세요.해당하는 경우 예제 키 필드를 사용자 고유의 키로 바꿉니다.
Python · pip 설치 llama-index-llms-openai-like
import os
from llama_index.llms.openai_like import OpenAILike
from llama_index.core.llms import ChatMessage
llm = OpenAILike(
model="qwen/qwen3.8-27b",
api_base="https://api.iteracompute.com/v1",
api_key=os.environ["ITERACOMPUTE_API_KEY"],
context_window=131072,
is_chat_model=True,
is_function_calling_model=True,
max_tokens=512,
additional_kwargs={"chat_template_kwargs": {"enable_thinking": False}},
)
response = llm.chat([ChatMessage(role="user", content="Hello!")])
print(response.message.content)버전 및 검증
구성 참조 · 2026년 10월 15일에 검토되었습니다.재현 가능한 전체 도구 테스트는 여기에 기록되지 않았습니다.아래 단계를 실행할 때 설치된 버전과 테스트 날짜를 기록하세요.
성공 기준
llm.chat을 실행하고 비어 있지 않은 message.content를 확인하세요.테스트 검색과 도구 실행은 별도로 수행됩니다.
설치된 버전 기록
python -m pip show llama-index-llms-openai-like아래 API 확인 후 구성된 도구 자체를 테스트해 보세요.HTTP 200 또는 cURL 결과만으로는 해당 도구를 확인할 수 없습니다.
연결 테스트
cURL · 채팅 완료
# Bash / zsh / WSL; set ITERACOMPUTE_API_KEY in your environment first.
curl --fail-with-body https://api.iteracompute.com/v1/chat/completions \
-H "Authorization: Bearer $ITERACOMPUTE_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"qwen/qwen3.8-27b","messages":[{"role":"user","content":"Reply with exactly: Hello!"}],"max_tokens":512}'choice[0].message.content에 보이는 텍스트가 포함되어 있는지 확인하세요.HTTP 200만으로는 부족합니다.추론은 출력 예산을 소비할 수 있습니다.무료 Qwen을 사용하려면 다음을 사용하세요. 첫 번째 무료 통화 예시 사고를 비활성화하려면 도구 내부에 메시지를 보내세요.
선택된 모델 기능
선택한 모델의 API 기능입니다.워크플로의 기능 가용성은 도구 및 해당 설정에 따라 달라집니다.추론 제어는 모델에 따라 다릅니다.
- 채팅 완료지원됨
- 도구 호출지원됨
- 추론지원됨
- 이미지 입력지원됨
- 스트리밍지원됨
문제 해결
알 수 없는 모델 메타데이터
llama_index.llms.openai_like에서 OpenAILike를 사용하고 context_window 및 is_chat_model=True를 제공하세요.해당 모델 메타데이터는 선택한 계정 계층과 일치해야 합니다.
도구 또는 컨텍스트 불일치
도구를 지원하는 모델에 대해서만 is_function_calling_model을 설정하세요.무료 Qwen 컨텍스트는 입력 및 요청된 출력을 포함하여 131072입니다.최대 출력은 8192입니다.
검색 또는 답변이 누락되었습니다.
먼저 llm.chat이 비어 있지 않은 message.content를 반환하는지 확인하세요.검색 파이프라인에는 구성된 임베딩 모델과 인덱스도 필요합니다.채팅 연결은 검색을 확인하지 않습니다.
429 / 요청 제한
계정 전체의 월간 사용량과 TPM을 확인하세요.이후 재시도를 존중하고 병렬 재시도를 방지합니다.무료 Qwen에는 자동으로 지불되는 초과분이 없습니다.다른 모델은 게시된 가격을 사용합니다.
401 / 403 : 키와 모델 권한을 확인하세요.무료 Qwen에는 잔액이나 카드가 필요하지 않습니다.유료 모델의 경우 사용 가능한 잔액도 확인하세요.
