아래 고급 예에서는 유료 DeepSeek V4.1 Flash를 사용하고 API 잔액에서 사용량을 공제합니다.모델 페이지에서 현재 입력, 캐시된 입력 및 출력 가격을 확인하세요.무료 Qwen3.8-27B는 채팅 완료, 스트리밍 및 도구 호출을 지원합니다.이 가이드에서는 Qwen Responses API 지원을 설정하지 않습니다.모델 ID와 추론 매개변수는 서로 바꿔 사용할 수 없습니다.예시를 적용하기 전에 선택한 모델이 각 엔드포인트와 옵션을 지원하는지 확인하세요.
모델 엔드포인트는 공용이며 현재 게이트웨이 카탈로그를 반환합니다.그것을 사용하십시오 이드 반환된 값과 정확히 일치합니다.모델에 대한 상업적 액세스는 여전히 API 키 및 계약에 의해 제어됩니다.
4. 채팅 완료
POST /v1/chat/completions OpenAI 요청 및 응답 형식을 따릅니다.
수입 운영 체제
에서 openai 수입 OpenAI 클라이언트 = OpenAI( base_url="https://api.iteracompute.com/v1", api_key=os.environ["ITERACOMPUTE_API_KEY"], ) resp = client.chat.completions.create(모델="deepseek/deepseek-v4.1-flash"메시지=[{"role": "사용자", "콘텐츠": "정확하게 '안녕하세요!'라고 답장하세요."}], 온도=0, max_tokens=128, )
인쇄(resp.choices[0].message.content)
인쇄(resp.usage) # 프롬프트 토큰 / 완료 토큰 / 총 토큰
5. 응답 API
POST /v1/응답 Codex와 같은 클라이언트가 사용하는 OpenAI Responses API를 지원합니다.
수입 운영 체제
에서 openai 수입 OpenAI 클라이언트 = OpenAI( base_url="https://api.iteracompute.com/v1", api_key=os.environ["ITERACOMPUTE_API_KEY"], ) 응답 = client.responses.create(모델="deepseek/deepseek-v4.1-flash"입력="정확하게 '안녕하세요!'라고 답장하세요."max_output_tokens=128, )
인쇄(response.output_text)
6. 스트리밍(SSE)
세트 "stream": true 서버에서 보낸 이벤트를 수신합니다.청크는 생성된 대로 도착합니다.토큰 사용량은 전달되는 최종 청크에 포함됩니다.
사용법, 터미널 이전
[완료] 이벤트.스트림을 하나의 논리적 요청으로 처리합니다. 토큰이 방출되면 요청이 투명하게 재시도되지 않습니다.
수입 운영 체제
에서 openai 수입 OpenAI 클라이언트 = OpenAI( base_url="https://api.iteracompute.com/v1", api_key=os.environ["ITERACOMPUTE_API_KEY"], ) 스트림 = client.chat.completions.create(모델="deepseek/deepseek-v4.1-flash"메시지=[{"role": "사용자", "콘텐츠": "정확하게 '안녕하세요!'라고 답장하세요."}], 스트림=참, stream_options={"include_usage": 참}, 온도=0, max_tokens=128, )
에 대한 덩어리 안으로 스트림:
만약에 덩어리.선택 그리고 Chunk.choices[0].delta.content:
인쇄(chunk.choices[0].delta.content, end="")
만약에 청크 사용법: # 마지막 부분: 토큰 사용량인쇄("\n", chunk.usage)
7. 도구 호출
도구는 도구
매개변수는 OpenAI 함수 호출 형식을 따릅니다. 모델이 도구를 호출하기로 결정하면 응답에 다음이 포함됩니다.
도구_호출;도구 결과를 역할과 함께 다시 보내기 "도구" 대화를 계속하려면.
수입 json
수입 운영 체제
에서 openai 수입 OpenAI 클라이언트 = OpenAI( base_url="https://api.iteracompute.com/v1", api_key=os.environ["ITERACOMPUTE_API_KEY"], ) 메시지 = [{"role": "사용자", "콘텐츠": "싱가포르의 날씨는 어떻습니까?"}] 도구 = [{
"유형": "함수",
"함수": {
"name": "get_weather",
"설명": "도시의 현재 날씨 가져오기",
"parameters": {
"유형": "object",
"properties": {"도시": {"유형": "string"}},
"required": ["도시"], }, }, }] resp = client.chat.completions.create(모델="deepseek/deepseek-v4.1-flash"메시지=메시지, 도구=도구, 도구 선택={"유형": "함수", "함수": {"name": "get_weather"}}, max_tokens=512, ) Assistant_message = resp.choices[0].message message.append(assistant_message)
에 대한 전화 안으로 Assistant_message.tool_calls 또는 []: 인수 = json.loads(call.function.arguments) 결과 = {"도시": 인수["도시"], "temperature_c": 29} 메시지.추가({
"role": "도구",
"도구 호출 ID": call.id,
"콘텐츠": json.dumps(결과), }) final = client.chat.completions.create( 모델="deepseek/deepseek-v4.1-flash"메시지=메시지, 도구=도구, max_tokens=512, )
인쇄(final.choices[0].message.content)
8. 오류 코드
오류는 JSON 본문과 함께 OpenAI 오류 형식을 사용합니다.
{"오류": {"메시지", "유형", "코드"}}:
상태
의미
400
잘못된 요청 - 잘못된 JSON 또는 필수 매개변수 누락
401
인증 실패 - API 키가 누락되었거나 잘못되었습니다.
403
이 모델 또는 작업에는 키가 허용되지 않습니다.
404
알 수 없는 모델 또는 엔드포인트
429
속도 제한 초과 - 속도를 늦추고 재시도 후 준수
500
내부 오류 - 요청을 다시 시도해도 안전합니다.
503
모델을 일시적으로 사용할 수 없습니다. 백오프로 다시 시도하세요.
9. 요금 제한
Qwen3.8-27B는 계정 전체의 월별 허용량과 TPM을 사용합니다.무료/스타터/프로는 UTC 월별 30M/100M/300M 토큰, 160K/300K/600K TPM 및 128K/128K/256K 컨텍스트를 제공합니다.$10 또는 $50의 순 충전 완료 시 Starter 또는 Pro가 잠금 해제됩니다.무료 계정은 GPU 용량이 사용량이 많은 경우 GPU당 최대 32개의 대기 요청과 120초의 대기 시간으로 대기열에 추가될 수 있습니다.다른 모델에서는 키 제한을 사용합니다.소진된 허용량, 전체 대기열 및 시간 초과 반환 429;명예 재시도 후 다시 시도하기 전에.