一分钟调通 API

1. 1. 注册账号。 免信用卡、无需邀请码。注册已开放，入口在 inferway.ai。
2. 2. 复制密钥。 第一次进入控制台时会自动创建一把 Default 密钥，只显示一次。之后随时在 API 密钥页轮换或新增。
3. 3. 跑请求。 设置 $INFERWAY_API_KEY，运行下面的流式命令。
4. 4. 确认成功。 在控制台 → 请求记录里核对状态、延迟、token 数与所用模型。

第一个请求

export INFERWAY_API_KEY="inferway_live_..."

curl "https://api.inferway.ai/v1/chat/completions" \
  -H "Authorization: Bearer $INFERWAY_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "inferway/qwen3.8-27b",
    "stream": true,
    "messages": [{"role": "user", "content": "Say hello in one short sentence."}]
  }'

curl "https://api.inferway.ai/v1/chat/completions" \
  -H "Authorization: Bearer $INFERWAY_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "inferway/qwen3.8-27b",
    "stream": true,
    "messages": [{"role": "user", "content": "Say hello in one short sentence."}]
  }'

响应结构

data: {
  "id": "chatcmpl_...",
  "object": "chat.completion.chunk",
  "model": "inferway/qwen3.8-27b",
  "choices": [
    {
      "index": 0,
      "delta": { "role": "assistant", "content": "Hello" },
      "finish_reason": null
    }
  ]
}

data: [DONE]

如果第一个请求没跑通

第一次失败大多是配置问题，改应用代码之前先核对这几项。

# For OpenAI-compatible clients that read OpenAI env vars
export OPENAI_API_KEY="$INFERWAY_API_KEY"
export OPENAI_BASE_URL="https://api.inferway.ai/v1"
export INFERWAY_MODEL="inferway/qwen3.8-27b"

推理（reasoning tokens）

当前服务的模型默认不输出推理（thinking）token，需在请求中显式开启。

推理 token 按输出价计入输出 token，并出现在 usage.completion_tokens_details.reasoning_tokens 里。

可在单次请求中用 chat_template_kwargs.enable_thinking=true（OpenAI SDK 经 extra_body 传入）或 reasoning: {"enabled": true} 开启。

对话补全 - Python

官方 OpenAI Python SDK 可以对接任何 OpenAI 兼容的 base URL。换掉 base URL，密钥照旧。这种非流式写法适合短补全；长输出必须走流式。

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.inferway.ai/v1",
    api_key=os.environ["INFERWAY_API_KEY"],
)

resp = client.chat.completions.create(
    model="inferway/qwen3.8-27b",
    messages=[{"role": "user", "content": "Say hello in one short sentence."}],
    max_tokens=64,
)

print(resp.choices[0].message.content)

安装 SDK（可选）

第一条 cURL 请求不需要任何依赖，准备把集成写进应用时再装 SDK。

# Python
pip install openai

# TypeScript / Node.js
npm install openai

按工具查看接入指南

{
  "providers": {
    "inferway": {
      "baseUrl": "https://api.inferway.ai/v1",
      "api": "openai-completions",
      "apiKey": "$INFERWAY_API_KEY",
      "models": [
        {
          "id": "inferway/qwen3.8-27b",
          "name": "Inferway",
          "reasoning": false,
          "input": [
            "text"
          ],
          "contextWindow": 262144,
          "maxTokens": 32768,
          "compat": {
            "supportsDeveloperRole": false,
            "supportsReasoningEffort": false,
            "maxTokensField": "max_tokens"
          }
        }
      ]
    }
  }
}

pi --provider inferway --model 'inferway/qwen3.8-27b'

printf 'Inferway API key: '
IFS= read -r -s INFERWAY_API_KEY
printf '\n'
export INFERWAY_API_KEY

curl --fail-with-body --silent --show-error --max-time 30 \
  'https://api.inferway.ai/v1/models' \
  -H "Authorization: Bearer $INFERWAY_API_KEY"

pi --provider inferway --model 'inferway/qwen3.8-27b' -p 'Review this project and run its tests' </dev/null

MCP 端点已上线。把支持 MCP 的客户端指向下面的服务器地址，用同一把 API Key 鉴权即可；工具走标准协议，零保留规则同样适用。

{
  "mcpServers": {
    "inferway": {
      "url": "https://api.inferway.ai/v1/mcp/sse",
      "headers": {
        "Authorization": "Bearer $INFERWAY_API_KEY"
      }
    }
  }
}

上生产检查清单

• 密钥只留在服务端 绝不要把 inferway_live_… 密钥发到浏览器、移动端或公开仓库。
• 长输出走流式 任何可能超过 CDN 首字节窗口的输出都必须设 stream=true。
• 给 max_tokens 设上限。 按路由设定输出上限，成本和延迟才可预期。
• 只监控元数据 记录状态、延迟、token 数与模型；要保住端到端的零保留，就别记录提示词或补全内容。

端点参考

OpenAI 兼容的那条路径保持小而可预期；账户、账单、用量与 agent 操作走另外一组第一方端点。

公开支持的端点是 POST /v1/chat/completions 和 GET /v1/models。旧版 POST /v1/completions 不提供（404），请改用 chat completions。POST /v1/messages（Anthropic 格式）在本部署未开启，在另行通知前一律返回 404。

选择模型，查看上下文、输出限制与工具支持。API 示例和工具配置会使用同一个模型。

鉴权

Authorization: Bearer $INFERWAY_API_KEY

• API 密钥 密钥统一以 inferway_live_… 开头，签发给服务端负载使用。
• 浏览器应用 别把直连密钥暴露在客户端，请求走你自己的后端代理。

错误码

Inferway 返回 OpenAI 兼容的错误对象：{"error": { "type": "...", "message": "...", "code": "..." }}

付费请求在派发前预留 prompt 估价 × 输入价 + max_tokens × 输出价。可用余额耗尽时，符合条件的请求可使用注册免费额度；免费请求不扣钱包。402 表示请求在派发前被拒绝，不产生费用。余额以 4 位小数展示；单价以实时价目表为准。

错误码目录（实时）

/v1/chat/completions 与 /v1/agent/chat 可能返回的全部错误码，直接取自网关自己的目录，不是抄写。每一行都带 HTTP 状态、是否可以安全重试，以及 API 实际发出的原文。结账、账单与密钥管理相关的端点会返回它们各自的错误码，不在本表中。

限速与配额

额度拒绝返回 HTTP 429。查看错误码、window 和 dimension；有 Retry-After 时按其等待。单次请求大小超限需要缩短输入或调低 max_tokens，等待不会改变此限制。

注册免费账户

注册免费账户：单次输入预算 131,072 tokens（128K），输出最多 32,768 tokens（32K）；60 次/分钟，并发 2。不设每分钟 token 限制。

每日输入 5,000,000、输出 500,000、合计 5,500,000 tokens，UTC 00:00 重置。同一账户的 API Key 共享每个模型的额度。

输入预算包含系统提示词、历史对话和工具内容，按保守估算校验，实际可提交长度随内容而异。超过 4,096 tokens 的输出请使用流式请求。

• X-RateLimit-Limit. 当前 RPM 窗口的配额
• X-RateLimit-Remaining. 当前窗口内剩余的请求数
• X-RateLimit-Reset. 当前窗口重置的 Unix 时间戳。
• Retry-After. 收到 429 后应等待的秒数。

运营限制

• 并发上限 注册免费账户允许 2 个并发请求；付费账户按账户与密钥策略执行。
• 数据保留 内容零保留；仅保留元数据用于计费与可靠性。

OpenAI 兼容性

下面这张表写的是网关今天实际怎么处理每个参数 -- 不是我们希望它怎么处理。

思考默认关闭。需要时请在请求里传 "reasoning": {"enabled": true}，并把该请求的 max_tokens 预算留到约 16k 以上——预算太小会被思考过程占满，正文一个字都看不到。

最小示例应用

#!/usr/bin/env python3
"""Minimal Inferway chat sample. Requires: pip install openai"""
import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.inferway.ai/v1",
    api_key=os.environ["INFERWAY_API_KEY"],
)

messages = [{"role": "system", "content": "You are a helpful assistant."}]

while True:
    user = input("You: ")
    if not user:
        break
    messages.append({"role": "user", "content": user})
    stream = client.chat.completions.create(
        model="inferway/qwen3.8-27b",
        messages=messages,
        stream=True,
    )
    reply = ""
    print("Assistant: ", end="", flush=True)
    for chunk in stream:
        if not chunk.choices:
            continue
        piece = chunk.choices[0].delta.content
        if piece:
            reply += piece
            print(piece, end="", flush=True)
    print("\n")
    messages.append({"role": "assistant", "content": reply})

下一步