功能
功能特性
BYOKS 完整支持 OpenAI API 的核心功能,并在不同 Provider 间保持一致的体验。
支持的功能
| 功能 | 说明 | 支持的 Provider |
|---|---|---|
| 流式响应 | 实时返回生成内容 | 全部 |
| 工具调用 | 让模型调用外部函数 | OpenAI, Anthropic, Google |
| 多模态 | 图片、文档输入 | OpenAI, Anthropic, Google |
| 结构化输出 | JSON Schema 约束输出 | OpenAI, Anthropic |
| 上下文缓存 | 缓存长上下文减少成本 | Anthropic, Google |
跨 Provider 一致性
BYOKS 确保你使用统一的 API 格式,无论底层是哪个 Provider:
// 相同的代码,不同的 Provider
const providers = ['gpt-4o', 'claude-3-5-sonnet-20241022', 'gemini-1.5-pro'];
for (const model of providers) {
const response = await client.chat.completions.create({
model,
messages: [{ role: 'user', content: '你好' }],
stream: true, // 所有 Provider 都支持流式
});
}功能映射
不同 Provider 的原生功能,BYOKS 统一映射为 OpenAI 格式:
| OpenAI 参数 | Anthropic 映射 | Google 映射 |
|---|---|---|
messages | messages | contents |
max_tokens | max_tokens | maxOutputTokens |
temperature | temperature | temperature |
stream | stream | streamGenerateContent |
tools | tools | tools |