BYOKSBYOKS Docs

使用者

第三方 Provider

如果你没有自己的 Provider Key,或者想试用某个模型,可以使用 BYOKS 市场中的第三方 Provider。

工作原理

你的应用 → BYOKS → 第三方 Provider(使用其他用户的 Key,按量付费)

启用第三方 Provider

进入设置

在 Dashboard 中,点击 Settings > Third-party Providers

开启选项

{
  "allowThirdPartyProviders": true,
  "preferredProviders": ["provider-xyz", "provider-abc"]
}

同意数据政策

重要

使用第三方 Provider 时,你的请求内容会经过第三方。请确保你了解并同意这一点。

使用第三方 Provider

自动路由

开启后,当你自己没有配置某个模型时,BYOKS 会自动从市场中选择 Provider:

// 你没有配置 Claude,但开启了第三方 Provider
const response = await client.chat.completions.create({
  model: 'claude-3-5-sonnet-20241022',  // 自动使用第三方
  messages: [{ role: 'user', content: '你好' }],
});

指定 Provider

你也可以指定使用某个 Provider:

const response = await client.chat.completions.create({
  model: 'gpt-4o@provider-xyz',  // 明确指定 Provider
  messages: [{ role: 'user', content: '你好' }],
});

计费方式

第三方 Provider 按使用量计费:

计费项说明
输入 Token按 Provider 设定的价格计费
输出 Token按 Provider 设定的价格计费
最低消费部分 Provider 设有最低消费

费用从你的 BYOKS 余额中扣除,定期结算给 Provider。

选择 Provider 的考虑因素

因素说明
价格不同 Provider 价格可能不同
可用性Provider 的在线率和响应速度
信誉Provider 的历史服务质量
地区Provider 的节点位置

数据安全提醒

使用第三方 Provider 时:

  • 是 适合:非敏感数据、测试、试用
  • 否 不适合:包含敏感信息的请求

如果你的请求包含敏感数据,建议使用 BYOK 模式

常见问题

第三方 Provider 可靠吗?

BYOKS 会监控 Provider 的可用性和响应质量。不达标的 Provider 会被降低优先级或下架。

我可以投诉 Provider 吗?

可以。在 Dashboard 中提交投诉,BYOKS 会审核处理。

如何知道使用了哪个 Provider?

API 响应的 x-byoks-provider 头会返回实际使用的 Provider ID。

下一步