模型供应商
ocra 能用哪些模型供应商、各自需要什么,以及如何接入你自己的端点。
在默认运行时上,OpenCode 目录里的供应商都可以用,只有少数需要从 npm 下载代码的除外。在模型链里把模型写成 provider/model(见配置);运行时只拿到链里出现的供应商的凭据。
OpenCode 目录中的供应商
| 供应商 | 模型示例 | 需要设置 | 实测过 |
|---|---|---|---|
| Gemini API | google/gemini-3.5-flash | GEMINI_API_KEY(或 GOOGLE_API_KEY、GOOGLE_GENERATIVE_AI_API_KEY) | 是 |
| Vertex AI | google-vertex/gemini-3.5-flash | GOOGLE_VERTEX_PROJECT、GOOGLE_VERTEX_LOCATION=global,以及应用默认凭据或 GOOGLE_APPLICATION_CREDENTIALS | 是,也包括在 GitHub Actions 里通过工作负载身份联合免密钥使用 |
| Anthropic | anthropic/<model> | ANTHROPIC_API_KEY | 否 |
| OpenAI | openai/<model> | OPENAI_API_KEY | 否 |
| Amazon Bedrock | amazon-bedrock/<model> | AWS_REGION 和 AWS 凭据:AWS_ACCESS_KEY_ID 与 AWS_SECRET_ACCESS_KEY(加上 AWS_SESSION_TOKEN)、AWS_PROFILE,或 AWS_BEARER_TOKEN_BEDROCK | 否 |
| Azure OpenAI | azure/<deployment> | AZURE_API_KEY、AZURE_RESOURCE_NAME | 否 |
| DeepSeek、OpenRouter、Groq、Mistral、xAI 以及目录里的其他供应商 | deepseek/<model> | 供应商的密钥,比如 DEEPSEEK_API_KEY;ocra 不认识的 id 会拿到以它开头的所有变量,比如 GROQ_ | 否 |
"否":ocra 传入变量,其余由 OpenCode 处理,但还没有审查实际经过这个供应商运行过;出了问题请提 issue。模型 id 以 OpenCode 的目录 models.dev 为准。
需要从 npm 下载代码的供应商
有少数供应商,OpenCode 会在第一次使用时从 npm 下载其客户端代码,而 ocra 不允许审查过程中下载。在 2026-09-29 的目录里,它们是 aihubmix、cloudflare-ai-gateway、merge-gateway、qvac、salad-cloud、sap-ai-core 和 watsonx;它们的模型会立即失败,报错 "Failed to initialize provider"。如果这类服务有 OpenAI 兼容端点,可以声明为你自己的端点。
你自己的端点
自建的服务(vLLM、Ollama、LM Studio)或者兼容 OpenAI API 的公司网关,在 .ocra/config.json 里声明:
{
"models": {
"standard": "gateway/qwen3-coder",
"light": "gateway/qwen3-small",
"top": "gateway/qwen3-max"
},
"providers": {
"gateway": {
"type": "openai-compatible",
"baseUrl": "https://llm.example.com/v1",
"apiKeyEnv": "GATEWAY_API_KEY",
"models": {
"qwen3-coder": { "input": 0.5, "output": 2, "cachedInput": 0.1 },
"qwen3-small": { "input": 0.1, "output": 0.4 },
"qwen3-max": { "input": 2, "output": 8 }
}
}
}
}- id(
gateway)由你自己取:小写字母、数字和连字符。避开 OpenCode 目录里已有的 id:声明会在这次运行中替换同名的已知供应商。 baseUrl必须是https,或者本机上的普通http:localhost、127.0.0.1或::1。比如 Ollama 用http://127.0.0.1:11434/v1。地址里不能有{或},OpenCode 会把它们替换成变量或文件内容。apiKeyEnv是保存密钥的变量名;密钥从不写进文件,运行时也只拿到这一个变量。平台令牌和云凭据(GITHUB_、GITLAB_、CI_、AWS_、AZURE_等)会被拒绝。不需要密钥的服务可以省略。effort(可选)说明端点怎样接收两种运行时发送的推理强度:openai(默认;OpenAI、Gemini 的 OpenAI 兼容端点和 OpenRouter 都接受)发送reasoning_effort,openrouter发送reasoning: { effort }。- 每个模型都要有价格,单位是每百万 token 美元:
input、output,可选cachedInput,用于报告的花费和--max-cost-usd。价格为 0(你自己的硬件)时,运行会警告花费上限不计入这个模型。 - 共享配置(
extends)只有用#sha256=固定后才能声明供应商,否则提供文件的人就能把你的代码转到别处。声明了供应商却没固定的共享文件会被忽略,警告里给出检查后要加的固定值。仓库里同 id 的声明优先。审查 PR 和 Merge Request 时,供应商来自 base 提交。
已在 CI 里用真实的 OpenCode 二进制文件对模拟的 OpenAI 兼容服务测试过(密钥发往该去的地方,价格被计入,不访问其他地址),也在 OpenRouter 上真实运行过(一个免费模型,2026-10-02)。
OpenRouter 上的免费模型
OpenRouter 上的免费模型和任何端点一样声明:按 OpenRouter 的模型 id 写,价格为 0,以 <端点 id>/<模型 id> 引用。对 OpenRouter 的 key,ocra init 写的就是这样的配置,模型是 openrouter/free,即把每次请求交给某个免费模型的路由:
{
"models": {
"top": "router/openrouter/free",
"standard": "router/openrouter/free",
"light": "router/openrouter/free"
},
"providers": {
"router": {
"type": "openai-compatible",
"baseUrl": "https://openrouter.ai/api/v1",
"apiKeyEnv": "OPENROUTER_API_KEY",
"models": { "openrouter/free": { "input": 0, "output": 0 } }
}
}
}- 运行报告的花费是 $0,并警告
--max-cost-usd不计入这个模型;token 数照常报告。 - 带
--no-repo-config运行时(评测工具就是这样),把文件放在被审查仓库之外,用--config传入。 - 评测的判定模型也可以用同一个端点:
JUDGE_API_KEY、JUDGE_BASE_URL=https://openrouter.ai/api/v1、JUDGE_MODEL=openrouter/free。 - 路由每次请求可能选不同的模型,审查质量随之变化。要让运行可比,就指定一个免费模型(id 以
:free结尾,例如本仓库 CI 固定使用的nvidia/nemotron-3-ultra-550b-a55b:free);OpenRouter 会不经通知下架免费模型,下架的模型返回 HTTP 404,审查失败。 - 没有充值时,OpenRouter 每天约给 50 次免费请求,由各
:free模型共用;账号买过至少 10 美元额度后为每天 1000 次;一个审查任务要 30 到 70 次请求,所以大的审查可能中途停下。有些不带:free的零价格模型需要充值,否则返回 HTTP 402。 - 免费模型、限额和价格随时可能变,其提供方也可能保留发给它的内容。拿它们试用 ocra,别用于必须保密的代码。
声明端点不需要 OpenCode 的价格目录;目录形式的 openrouter/<模型> 需要能访问目录且模型在目录里,否则立刻失败。
选择运行时
有两个运行时可以运行审查员,由配置里的 runtime 选择:
| 运行时 | 会访问 | 适用场景 |
|---|---|---|
opencode(默认) | OpenCode 目录里的所有供应商和你声明的端点,外加价格目录 models.opencode.ai | 你的模型是 Gemini、Vertex AI、Anthropic、Bedrock 或目录里的其他供应商 |
direct | 只访问 providers 下声明的端点,不访问网络上的其他任何地址 | 模型链里的每个模型都在声明的端点上,而且你希望除此之外什么都不访问 |
两者跑同一套审查:工具、步数上限、降级和价格都相同。direct 会在发出任何请求前拒绝写了未声明供应商的模型链,并读取 HTTP_PROXY、HTTPS_PROXY 和 NO_PROXY。质量数字是在 opencode 上测得的;direct 通过同一套一致性测试,但还没有在黄金用例集上评测过。
想看 direct 给模型发了什么、收到了什么,把 OCRA_RECORD_DIR 设成一个目录:每个请求连同回答写成一个 JSON 文件,只有你能读。密钥替换成 <key>(运行中续期的 ocra Cloud 令牌也一样),请求头和端点地址不写入,但文件里有代码和提示词,要像代码本身一样保护。写不进记录时会在 stderr 上警告,审查照常继续,不会重发请求。一份记录只能回放它记录的那段对话。opencode 不读这个变量。
opencode 运行时是可选依赖,默认安装;使用 direct 时可以不装,少约 165 MB:见不装 OpenCode和 Action 的 opencode: false 输入。
还会访问哪些网络地址
除模型供应商外,OpenCode 启动时会从 models.opencode.ai 拉取价格目录。它从 npm 安装自身插件包或供应商代码的尝试,都被指向本机一个立即拒绝的 registry。除声明的端点外所有地址都被拒绝时,审查依然正常(已测试):价格目录拉取失败,OpenCode 用自带的目录,不在其中的模型没有价格,运行会警告它的调用没有计入。