核心概念
工作原理
核心架构
BYOKS 是一个边缘优先的 API 网关，部署在全球边缘节点上。
你的应用 → 边缘节点 → 路由决策 → 协议转换 → Provider
请求处理流程
1. 就近接入
你的请求首先到达最近的边缘节点。BYOKS 在全球部署了边缘节点，确保低延迟接入。
2. 认证验证
边缘节点验证你的 BYOKS API Key，获取你配置的 Provider 信息。
3. 路由决策
根据你的路由策略，决定使用哪个 Provider：
- 优先级路由：按配置顺序尝试
- 成本路由：选择最便宜的可用 Provider
- 延迟路由：选择响应最快的 Provider
4. 协议转换
将 OpenAI 格式的请求转换为目标 Provider 的原生格式（如 OpenAI 格式 → Anthropic 格式）。
5. 请求转发
使用你配置的 Provider API Key 发送请求。BYOKS 不存储你的 Key，每次从配置中实时获取。
6. 响应处理
将 Provider 的响应转换回 OpenAI 格式，返回给你的应用。
协议转换
BYOKS 支持在不同协议间转换：
| 源格式 | 目标 Provider | 转换内容 |
|---|---|---|
| OpenAI | Anthropic | messages 格式、max_tokens、system prompt |
| OpenAI | Google Gemini | contents 格式、generationConfig |
| OpenAI | OpenAI 兼容 | 直接透传 |
示例：OpenAI 到 Anthropic
输入（OpenAI 格式）：
{
"model": "claude-3-5-sonnet-20241022",
"messages": [
{ "role": "system", "content": "你是一个助手" },
{ "role": "user", "content": "你好" }
],
"max_tokens": 1000
}转换后（Anthropic 格式）：
{
"model": "claude-3-5-sonnet-20241022",
"system": "你是一个助手",
"messages": [
{ "role": "user", "content": "你好" }
],
"max_tokens": 1000
}边缘架构的优势
低延迟
请求在边缘节点处理，不需要回传到中心服务器。
高可用
边缘节点独立运行，单个节点故障不影响整体服务。
数据安全
你的请求内容在边缘节点处理后直接转发，不经过中心存储。