一分钟快速接入 API

1. 1. 注册账号。 无需信用卡或邀请码，随时直接注册：inferway.ai。
2. 2. 获取 API Key。 首次登录控制台时系统将自动生成 Default 密钥（仅明文展示一次）。后续可随时在 API 密钥页轮换或新增。
3. 3. 发起调用。 设置环境变量 $INFERWAY_API_KEY，并在终端运行下方的流式调用命令。
4. 4. 验证调用。 在控制台 → 请求记录中查看请求状态、响应延迟、Token 用量以及模型标识。

首次调用

export INFERWAY_API_KEY="inferway_live_..."

curl 'https://api.inferway.ai/v1/chat/completions' \
  -H "Authorization: Bearer $INFERWAY_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
  "model": "inferway/qwen3.8-27b",
  "stream": true,
  "messages": [
    {
      "role": "user",
      "content": "Say hello in one short sentence."
    }
  ]
}'

curl 'https://api.inferway.ai/v1/chat/completions' \
  -H "Authorization: Bearer $INFERWAY_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
  "model": "inferway/qwen3.8-27b",
  "stream": true,
  "messages": [
    {
      "role": "user",
      "content": "Say hello in one short sentence."
    }
  ]
}'

响应数据结构

data: {
  "id": "chatcmpl_...",
  "object": "chat.completion.chunk",
  "model": "inferway/qwen3.8-27b",
  "choices": [
    {
      "index": 0,
      "delta": { "role": "assistant", "content": "Hello" },
      "finish_reason": null
    }
  ]
}

data: [DONE]

首次调用未成功的排查指引

绝大多数初次调用异常通常源自环境或参数配置，在修改业务代码前请先核对以下常见问题。

# For OpenAI-compatible clients that read OpenAI env vars
export OPENAI_API_KEY="$INFERWAY_API_KEY"
export OPENAI_BASE_URL='https://api.inferway.ai/v1'
export INFERWAY_MODEL='inferway/qwen3.8-27b'

思考过程（Reasoning Tokens）

当前服务的模型默认不输出推理（thinking）token，需在请求中显式开启。

思考过程 Token 按照输出 Token 标准价格计费，可在 usage.completion_tokens_details.reasoning_tokens 中查看详细用量。

可在单次请求中通过 chat_template_kwargs.enable_thinking=true（OpenAI SDK 通过 extra_body 传递）或 reasoning: {"enabled": true} 显式开启。

对话补全示例 — Python

官方 OpenAI Python SDK 原生支持任何兼容接口。仅需替换 base_url 与 API Key 即可。非流式请求适用于短文本生成；长文本任务建议使用流式传输。

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.inferway.ai/v1",
    api_key=os.environ["INFERWAY_API_KEY"],
)

resp = client.chat.completions.create(
    model="inferway/qwen3.8-27b",
    messages=[{"role": "user", "content": "Say hello in one short sentence."}],
    max_tokens=64,
)

print(resp.choices[0].message.content)

安装 SDK（可选）

初次运行 cURL 命令无需安装任何依赖；当您准备将调用正式集成到项目中时，再安装对应语言的官方 SDK。

# Python
pip install openai

# TypeScript / Node.js
npm install openai

按工具查看接入指南

{
  "$schema": "https://opencode.ai/config.json",
  "model": "inferway/inferway/qwen3.8-27b",
  "provider": {
    "inferway": {
      "npm": "@ai-sdk/openai-compatible",
      "name": "Inferway",
      "options": {
        "baseURL": "https://api.inferway.ai/v1",
        "apiKey": "{env:INFERWAY_API_KEY}"
      },
      "models": {
        "inferway/qwen3.8-27b": {
          "name": "Inferway",
          "limit": {
            "context": 262144,
            "output": 1024
          }
        }
      }
    }
  }
}

opencode run --pure --format json --title 'Inferway basic check' --model 'inferway/inferway/qwen3.8-27b' --agent build --dir . 'Reply with exactly: connected'

opencode run --pure --format json --title 'Inferway read fixture' --model 'inferway/inferway/qwen3.8-27b' --agent build --dir . 'Read the file read-tool-fixture.txt and reply with exactly the nonce it contains, nothing else.'

printf 'Inferway API key: '
IFS= read -r -s INFERWAY_API_KEY
printf '\n'
export INFERWAY_API_KEY

curl --fail-with-body --silent --show-error --max-time 30 \
  'https://api.inferway.ai/v1/models' \
  -H "Authorization: Bearer $INFERWAY_API_KEY"

# Scratch folder with a small read fixture
mkdir inferway-opencode-verify && cd inferway-opencode-verify && git init -q
printf 'nonce-7f3a9c\n' > read-tool-fixture.txt

MCP 端点现已开放。将支持 MCP 规范的客户端配置至下方服务地址，并使用同一把 API Key 进行鉴权即可；工具调用遵循官方标准协议，零数据留存承诺同样适用。

无可用余额的账户会自动走免费档，而不是收到 402 错误——与 REST API 相同的免费档（60 次/分钟）。注册用户的待遇绝不会低于匿名访客。

{
  "mcpServers": {
    "inferway": {
      "url": "https://api.inferway.ai/v1/mcp/sse",
      "headers": {
        "Authorization": "Bearer $INFERWAY_API_KEY"
      }
    }
  }
}

生产环境上线检查清单

• API Key 严格限定于服务端 切勿将生产密钥（inferway_live_…）暴露于前端浏览器、客户端应用或公开代码仓库中。
• 长文本生成推荐流式传输 对任何生成耗时可能接近 CDN 响应窗口的长任务，务必开启 stream=true。
• 合理设置 max_tokens 上限 根据具体业务场景配置输出上限，以确保费用支出与响应延迟均处于预期范围内。
• 仅采集与监控元数据 仅记录 HTTP 状态、延迟耗时、Token 用量与模型标识；为严格落实零数据留存，请勿在业务日志中记录用户的提示词与补全正文。

API 端点参考

OpenAI 兼容路径保持精简与高确定性；账户、财务账单、用量统计及 Agent 相关操作则通过一组独立的第一方端点提供。

异步交互：一个路由，四种操作

视频生成不会在请求内直接返回成片。所有调用都发往 POST /v1/interactions，并在请求体的 op 字段中指明操作；任务本身持久化，连接中断不会丢失已扣费的工作。

• mode 必须为 background。同步与流式模式一律以 422 拒绝，本路由没有实时返回的变体。
• create 操作必须携带 Idempotency-Key。同一 Key 配同一请求会返回原始回执且不重复扣费；同一 Key 配不同请求则以 409 失败拒绝。
• model、mode、duration_seconds 与 prompt 都是请求体的顶层字段。duration_seconds 为必填，且只接受已公布的整秒档位——计费正是按它结算。
• 使用 get 操作轮询直至状态进入终态。我们自己的控制台每 2 秒轮询一次；本接口不提供 Webhook，也没有长轮询。

公开支持的端点是 POST /v1/chat/completions、POST /v1/interactions 和 GET /v1/models。旧版 POST /v1/completions 不提供：它返回 501（未实现），并在错误信息里指明应改用的 chat completions 路由。POST /v1/messages（Anthropic 格式）已在本部署提供，但尚未对 API key 开放：在另行通知前，即使配置正确也会被权限错误拒绝。

选择模型，查看其已发布的能力事实。API 示例和工具配置会使用同一个模型。

认证与鉴权

Authorization: Bearer $INFERWAY_API_KEY

• API 密钥 密钥统一以 inferway_live_… 开头，签发给服务端负载使用。
• 浏览器应用安全规范 切勿把直连密钥暴露在客户端，请求应走您自有的后端代理。

错误代码

Inferway 返回 OpenAI 兼容的错误对象：{"error": { "type": "...", "message": "...", "code": "..." }}

付费请求在派发前预留 prompt 估价 × 输入价 + max_tokens × 输出价。可用余额耗尽时，符合条件的请求可使用注册免费额度；免费请求不扣钱包。402 表示请求在派发前被拒绝，不产生费用。已认证请求在派发前被 400 拒绝时，会以零 Token、零费用记录在控制台请求历史中，便于事后排查故障。余额以 4 位小数展示；单价以实时价目表为准。

命中缓存的输入 Token 记在 usage.prompt_tokens_details.cached_tokens 中，按缓存价计费。qwen3.8-27b 的缓存按 1,600 Token 整块匹配，且不复用提示词的最后一个整块，因此输入约 3,200 Token 以上的请求才可能部分命中；更短的请求始终按标准输入价计费。

错误码目录（实时）

/v1/chat/completions 与 /v1/agent/chat 可能返回的全部错误码，直接取自网关自己的目录，不是抄写。每一行都带 HTTP 状态、是否可以安全重试，以及 API 实际发出的原文。结账、账单与密钥管理相关的端点会返回它们各自的错误码，不在本表中。

速率限制与配额

额度拒绝返回 HTTP 429。查看错误码、window 与 dimension；有 Retry-After 时按其等待。单次请求大小超限需缩短输入或调低 max_tokens，等待不会改变此限制。

注册免费账户

注册免费账户：突发 8 次/秒、每分钟 60 次、每小时 300 次、每天 1,000 次，并发 2。不限制单次输入或输出 token，也不设每分钟或每日 token 额度。

每小时与每天的次数按滚动窗口计算，不在固定时刻整体重置。同一账户的 API Key 共享这些次数额度。

单次请求仍受模型自身的上下文长度和最大输出限制。超过 4,096 tokens 的输出请使用流式请求。

• X-RateLimit-Limit. 当前 RPM 窗口的总配额。
• X-RateLimit-Remaining. 当前窗口内剩余的可用请求次数。
• X-RateLimit-Reset. 当前窗口重置的 Unix 时间戳。
• Retry-After. 收到 429 后应等待的秒数。

运行约束

• 并发上限 注册免费账户允许 2 个并发请求；付费账户按账户与密钥策略执行。
• 数据留存 内容零留存；仅保留元数据用于计费与可靠性。

聊天 API 的 OpenAI 协议兼容性

以下清单如实列出了网关对各项参数的实际支持情况，反映线上运行时的真实处理逻辑。

思考过程默认处于关闭状态。如需开启，请在请求参数中传入 "reasoning": {"enabled": true}，并为该请求预留约 16k 以上的 max_tokens 预算 —— 若输出预算过小，可能被思考过程消耗殆尽导致最终正文为空。

图片输入——最小示例

两段最小请求体，分别对应两种公开协议，都把图片以内联 base64 / data URL 形式发送到 catalog 中声明了 image_input 的模型。网关在 Playground 上执行的 per-image、per-kind 累计字节与 16 MiB 请求体上限在这里同样生效。

下方每个片段的实际行为仍受上方兼容性矩阵中“推理未验证”声明的同一约束。

OpenAI Chat Completions

image_url.content 指向包含 base64 字节的 data URL，MIME 与 catalog 允许的类型一致即可。

POST https://api.inferway.ai/v1/chat/completions
Authorization: Bearer $INFERWAY_API_KEY
Content-Type: application/json

{
  "model": "inferway/qwen3.8-27b",
  "messages": [
    {
      "role": "user",
      "content": [
        {"type": "text", "text": "What is in this image?"},
        {
          "type": "image_url",
          "image_url": {
            "url": "data:image/png;base64,iVBORw0KGgoAAAANSUhEUgAAAAEAAAABCAQAAAC1HAwCAAAAC0lEQVR42mNkYAAAAAYAAjCB0C8AAAAASUVORK5CYII="
          }
        }
      ]
    }
  ]
}

Anthropic Messages

Anthropic 使用 base64 source 对象而不是 data URL；网关会把 Anthropic 形态的请求路由到同样的 image_input 通道。Messages 端点尚未对 API key 开放，详见上方端点说明。

POST https://api.inferway.ai/v1/messages
Authorization: Bearer $INFERWAY_API_KEY
Content-Type: application/json

{
  "model": "inferway/qwen3.8-27b",
  "max_tokens": 1024,
  "messages": [
    {
      "role": "user",
      "content": [
        {"type": "text", "text": "What is in this image?"},
        {
          "type": "image",
          "source": {
            "type": "base64",
            "media_type": "image/png",
            "data": "iVBORw0KGgoAAAANSUhEUgAAAAEAAAABCAQAAAC1HAwCAAAAC0lEQVR42mNkYAAAAAYAAjCB0C8AAAAASUVORK5CYII="
          }
        }
      ]
    }
  ]
}

最小应用代码示例

#!/usr/bin/env python3
"""Minimal Inferway chat sample. Requires: pip install openai"""
import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.inferway.ai/v1",
    api_key=os.environ["INFERWAY_API_KEY"],
)

messages = [{"role": "system", "content": "You are a helpful assistant."}]

while True:
    user = input("You: ")
    if not user:
        break
    messages.append({"role": "user", "content": user})
    stream = client.chat.completions.create(
        model="inferway/qwen3.8-27b",
        messages=messages,
        stream=True,
    )
    reply = ""
    print("Assistant: ", end="", flush=True)
    for chunk in stream:
        if not chunk.choices:
            continue
        piece = chunk.choices[0].delta.content
        if piece:
            reply += piece
            print(piece, end="", flush=True)
    print("\n")
    messages.append({"role": "assistant", "content": reply})

下一步建议