BYOKSBYOKS Docs

功能

功能特性

BYOKS 完整支持 OpenAI API 的核心功能,并在不同 Provider 间保持一致的体验。

支持的功能

功能说明支持的 Provider
流式响应实时返回生成内容全部
工具调用让模型调用外部函数OpenAI, Anthropic, Google
多模态图片、文档输入OpenAI, Anthropic, Google
结构化输出JSON Schema 约束输出OpenAI, Anthropic
上下文缓存缓存长上下文减少成本Anthropic, Google

跨 Provider 一致性

BYOKS 确保你使用统一的 API 格式,无论底层是哪个 Provider:

// 相同的代码,不同的 Provider
const providers = ['gpt-4o', 'claude-3-5-sonnet-20241022', 'gemini-1.5-pro'];

for (const model of providers) {
  const response = await client.chat.completions.create({
    model,
    messages: [{ role: 'user', content: '你好' }],
    stream: true,  // 所有 Provider 都支持流式
  });
}

功能映射

不同 Provider 的原生功能,BYOKS 统一映射为 OpenAI 格式:

OpenAI 参数Anthropic 映射Google 映射
messagesmessagescontents
max_tokensmax_tokensmaxOutputTokens
temperaturetemperaturetemperature
streamstreamstreamGenerateContent
toolstoolstools

下一步