模型供应商

ocra 能用哪些模型供应商、各自需要什么,以及如何接入你自己的端点。

在默认运行时上,OpenCode 目录里的供应商都可以用,只有少数需要从 npm 下载代码的除外。在模型链里把模型写成 provider/model(见配置);运行时只拿到链里出现的供应商的凭据。

OpenCode 目录中的供应商

供应商模型示例需要设置实测过
Gemini APIgoogle/gemini-3.5-flashGEMINI_API_KEY(或 GOOGLE_API_KEY、GOOGLE_GENERATIVE_AI_API_KEY)是
Vertex AIgoogle-vertex/gemini-3.5-flashGOOGLE_VERTEX_PROJECT、GOOGLE_VERTEX_LOCATION=global,以及应用默认凭据或 GOOGLE_APPLICATION_CREDENTIALS是,也包括在 GitHub Actions 里通过工作负载身份联合免密钥使用
Anthropicanthropic/<model>ANTHROPIC_API_KEY否
OpenAIopenai/<model>OPENAI_API_KEY否
Amazon Bedrockamazon-bedrock/<model>AWS_REGION 和 AWS 凭据:AWS_ACCESS_KEY_ID 与 AWS_SECRET_ACCESS_KEY(加上 AWS_SESSION_TOKEN)、AWS_PROFILE,或 AWS_BEARER_TOKEN_BEDROCK否
Azure OpenAIazure/<deployment>AZURE_API_KEY、AZURE_RESOURCE_NAME否
DeepSeek、OpenRouter、Groq、Mistral、xAI 以及目录里的其他供应商deepseek/<model>供应商的密钥,比如 DEEPSEEK_API_KEY;ocra 不认识的 id 会拿到以它开头的所有变量,比如 GROQ_否

"否":ocra 传入变量,其余由 OpenCode 处理,但还没有审查实际经过这个供应商运行过;出了问题请提 issue。模型 id 以 OpenCode 的目录 models.dev 为准。

需要从 npm 下载代码的供应商

有少数供应商,OpenCode 会在第一次使用时从 npm 下载其客户端代码,而 ocra 不允许审查过程中下载。在 2026-09-29 的目录里,它们是 aihubmix、cloudflare-ai-gateway、merge-gateway、qvac、salad-cloud、sap-ai-core 和 watsonx;它们的模型会立即失败,报错 "Failed to initialize provider"。如果这类服务有 OpenAI 兼容端点,可以声明为你自己的端点。

你自己的端点

自建的服务(vLLM、Ollama、LM Studio)或者兼容 OpenAI API 的公司网关,在 .ocra/config.json 里声明:

{
  "models": {
    "standard": "gateway/qwen3-coder",
    "light": "gateway/qwen3-small",
    "top": "gateway/qwen3-max"
  },
  "providers": {
    "gateway": {
      "type": "openai-compatible",
      "baseUrl": "https://llm.example.com/v1",
      "apiKeyEnv": "GATEWAY_API_KEY",
      "models": {
        "qwen3-coder": { "input": 0.5, "output": 2, "cachedInput": 0.1 },
        "qwen3-small": { "input": 0.1, "output": 0.4 },
        "qwen3-max": { "input": 2, "output": 8 }
      }
    }
  }
}
  • id(gateway)由你自己取:小写字母、数字和连字符。避开 OpenCode 目录里已有的 id:声明会在这次运行中替换同名的已知供应商。
  • baseUrl 必须是 https,或者本机上的普通 http:localhost、127.0.0.1 或 ::1。比如 Ollama 用 http://127.0.0.1:11434/v1。地址里不能有 { 或 },OpenCode 会把它们替换成变量或文件内容。
  • apiKeyEnv 是保存密钥的变量名;密钥从不写进文件,运行时也只拿到这一个变量。平台令牌和云凭据(GITHUB_、GITLAB_、CI_、AWS_、AZURE_ 等)会被拒绝。不需要密钥的服务可以省略。
  • effort(可选)说明端点怎样接收两种运行时发送的推理强度:openai(默认;OpenAI、Gemini 的 OpenAI 兼容端点和 OpenRouter 都接受)发送 reasoning_effort,openrouter 发送 reasoning: { effort }。
  • 每个模型都要有价格,单位是每百万 token 美元:input、output,可选 cachedInput,用于报告的花费和 --max-cost-usd。价格为 0(你自己的硬件)时,运行会警告花费上限不计入这个模型。
  • 共享配置(extends)只有用 #sha256= 固定后才能声明供应商,否则提供文件的人就能把你的代码转到别处。声明了供应商却没固定的共享文件会被忽略,警告里给出检查后要加的固定值。仓库里同 id 的声明优先。审查 PR 和 Merge Request 时,供应商来自 base 提交。

已在 CI 里用真实的 OpenCode 二进制文件对模拟的 OpenAI 兼容服务测试过(密钥发往该去的地方,价格被计入,不访问其他地址),也在 OpenRouter 上真实运行过(一个免费模型,2026-10-02)。

OpenRouter 上的免费模型

OpenRouter 上的免费模型和任何端点一样声明:按 OpenRouter 的模型 id 写,价格为 0,以 <端点 id>/<模型 id> 引用。对 OpenRouter 的 key,ocra init 写的就是这样的配置,模型是 openrouter/free,即把每次请求交给某个免费模型的路由:

{
  "models": {
    "top": "router/openrouter/free",
    "standard": "router/openrouter/free",
    "light": "router/openrouter/free"
  },
  "providers": {
    "router": {
      "type": "openai-compatible",
      "baseUrl": "https://openrouter.ai/api/v1",
      "apiKeyEnv": "OPENROUTER_API_KEY",
      "models": { "openrouter/free": { "input": 0, "output": 0 } }
    }
  }
}
  • 运行报告的花费是 $0,并警告 --max-cost-usd 不计入这个模型;token 数照常报告。
  • 带 --no-repo-config 运行时(评测工具就是这样),把文件放在被审查仓库之外,用 --config 传入。
  • 评测的判定模型也可以用同一个端点:JUDGE_API_KEY、JUDGE_BASE_URL=https://openrouter.ai/api/v1、JUDGE_MODEL=openrouter/free。
  • 路由每次请求可能选不同的模型,审查质量随之变化。要让运行可比,就指定一个免费模型(id 以 :free 结尾,例如本仓库 CI 固定使用的 nvidia/nemotron-3-ultra-550b-a55b:free);OpenRouter 会不经通知下架免费模型,下架的模型返回 HTTP 404,审查失败。
  • 没有充值时,OpenRouter 每天约给 50 次免费请求,由各 :free 模型共用;账号买过至少 10 美元额度后为每天 1000 次;一个审查任务要 30 到 70 次请求,所以大的审查可能中途停下。有些不带 :free 的零价格模型需要充值,否则返回 HTTP 402。
  • 免费模型、限额和价格随时可能变,其提供方也可能保留发给它的内容。拿它们试用 ocra,别用于必须保密的代码。

声明端点不需要 OpenCode 的价格目录;目录形式的 openrouter/<模型> 需要能访问目录且模型在目录里,否则立刻失败。

选择运行时

有两个运行时可以运行审查员,由配置里的 runtime 选择:

运行时会访问适用场景
opencode(默认)OpenCode 目录里的所有供应商和你声明的端点,外加价格目录 models.opencode.ai你的模型是 Gemini、Vertex AI、Anthropic、Bedrock 或目录里的其他供应商
direct只访问 providers 下声明的端点,不访问网络上的其他任何地址模型链里的每个模型都在声明的端点上,而且你希望除此之外什么都不访问

两者跑同一套审查:工具、步数上限、降级和价格都相同。direct 会在发出任何请求前拒绝写了未声明供应商的模型链,并读取 HTTP_PROXY、HTTPS_PROXY 和 NO_PROXY。质量数字是在 opencode 上测得的;direct 通过同一套一致性测试,但还没有在黄金用例集上评测过。

想看 direct 给模型发了什么、收到了什么,把 OCRA_RECORD_DIR 设成一个目录:每个请求连同回答写成一个 JSON 文件,只有你能读。密钥替换成 <key>(运行中续期的 ocra Cloud 令牌也一样),请求头和端点地址不写入,但文件里有代码和提示词,要像代码本身一样保护。写不进记录时会在 stderr 上警告,审查照常继续,不会重发请求。一份记录只能回放它记录的那段对话。opencode 不读这个变量。

opencode 运行时是可选依赖,默认安装;使用 direct 时可以不装,少约 165 MB:见不装 OpenCode和 Action 的 opencode: false 输入。

还会访问哪些网络地址

除模型供应商外,OpenCode 启动时会从 models.opencode.ai 拉取价格目录。它从 npm 安装自身插件包或供应商代码的尝试,都被指向本机一个立即拒绝的 registry。除声明的端点外所有地址都被拒绝时,审查依然正常(已测试):价格目录拉取失败,OpenCode 用自带的目录,不在其中的模型没有价格,运行会警告它的调用没有计入。

在 GitHub 上编辑

本页目录