OpenAI

中文译稿 · 由官方原文机器翻译,尚未逐句校对。对照原文 ↗

特定来源的说明

重要!

大多数 API 平台仅允许您在创建 API 密钥时查看一次生成的 API 密钥。如果丢失,则需要生成新密钥。请务必妥善保管!

开放人工智能

使用OpenAI的开发者平台可以接入各种OpenAI模型,包括gpt-4o、gpt-4.1、o3等。

如何获取 API 密钥:

  1. 前往 开放人工智能 并登录。
  2. 使用“查看 API 密钥“创建新 API 密钥的选项。

克洛德

Claude 是 Anthropic 开发的一系列人工智能模型。您可以通过 Anthropic 控制台访问 Claude 模型。

如何获取 API 密钥:

  1. 前往 人择控制台 并登录。
  2. 使用“获取API密钥”部分创建新的 API 密钥。

米斯特拉尔人工智能

Mistral AI 是一个开发开放和专有模型的团队,具有高科学标准并注重开放性。您可以在本地或通过他们的 API 服务 La Plateforme 运行他们的模型。

如何获取 API 密钥:

  1. 第一步是创建一个帐户 平台.
  2. 完成后,您可以选择 计划 并设置您的付款信息或选择免费套餐。
  3. 接下来,您可以创建您的 API密钥。您可能需要等待几分钟才能使密钥生效!

深度搜索

DeepSeek 平台通过 API 提供对最新 DeepSeek 模型的访问。他们提供一系列型号,包括 DeepSeek V3 和 DeepSeek R1。

如何获取 API 密钥:

  1. 注册 DeepSeek平台.
  2. 注册并充值账户后,您可以在“API 密钥”部分。

人工智能21

AI21 Labs 提供一系列人工智能模型,包括其旗舰 Jamba 系列。您可以通过 AI21 Studio API 访问他们的模型。

如何获取 API 密钥:

  1. 前往 AI21工作室 并登录。
  2. 导航至“设置 => API 密钥”部分以创建新的 API 密钥。

连贯

Cohere 提供了一套适用于各种任务的 AI 模型,包括文本生成和嵌入。您可以通过 Cohere API 访问他们的模型。

如何获取 API 密钥:

  1. 前往 连贯 并登录。
  2. 导航至“API 密钥帐户设置中的“部分来创建新的 API 密钥。

困惑

Perplexity AI 通过其 API 提供对在线声纳模型的访问,以进行实时研究和信息检索。

官方入门指南: 困惑快速入门

如何获取 API 密钥:

  1. 前往 困惑 并登录。
  2. 前往“API计费”部分购买 API 使用积分。
  3. 导航至“API 密钥设置中的“部分来创建新的 API 密钥。

烟花人工智能

Fireworks AI 是一个高性能平台,可提供对最先进的开源语言模型的快速、经济高效的访问。该平台通过兼容 OpenAI 的 API 提供无服务器部署,并支持高达 256,000 token 的上下文窗口。

如何获取 API 密钥:

  1. 前往 烟花人工智能 并创建帐户或登录。
  2. 导航至 API 密钥页面 在您的帐户设置中。
  3. 单击“创建 API 密钥”并提供描述性名称(例如“SillyTavern”)。

电子集线器

Electron Hub 是一个统一的 OpenAI 兼容平台,可通过单个 API 密钥访问多个供应商的模型。

如何获取 API 密钥:

  1. 创建一个帐户 电子集线器.
  2. 生成 API 密钥 控制台 → API 密钥 页。

自定义 OpenAI 兼容端点

请务必注意,我们不会为您可能遇到的问题提供支持! 我们不保证与每个可能的 API 端点的兼容性!

如果您打算使用此功能来使用本地端点,例如 TabbyAPI、Oobabooga、Aphrodite 或任何类似的端点,您可能需要查看 内置兼容性 相反。自定义端点功能主要用于与公开 OpenAI 兼容 API 聊天补全端点的其他服务和程序一起使用。

大多数文本补全 API 支持的自定义选项比 OpenAI 标准允许的要多得多。这些更大的定制选项,例如 Min-P 采样器,可能值得 SillyTavern 用户检查,这可以大大提高生成的质量。

您可以为聊天完成后端配置备用端点。此自定义端点可以连接到任何支持通用 OpenAI API 架构的服务器。

兼容后端的示例包括:

正在连接

要访问此功能:

  1. 切换到“聊天补全”API 类型
  2. 为“聊天补全源”选择“自定义(OpenAI 兼容)”

输入自定义端点 URL 和 API 密钥(如果需要)。例如,TabbyAPI 需要 API 密钥进行身份验证。

提示: 如果您遇到连接问题,请尝试添加 /v1 到端点 URL 的末尾。不要添加 /chat/completions 后缀。

选择型号

如果自定义 API 实现 /v1/models 端点提供可用模型的列表,您可以从下拉列表中进行选择。否则,请使用文本字段手动输入模型 ID。

选中“绕过 API 状态检查”以防止 SillyTavern 向您发出有关无法运行的 API 端点的警报。如果您的 API 端点工作正常但 SillyTavern 继续显示警告,请启用此选项。

单击“测试消息”,通过向模型发送简单的提示词来验证连接。

记录外部提供商?

提供商开发人员应该阅读 集成外部提供商 对于提供商拥有的设置指南模板和 UI 扩展、服务器插件和官方集成路线。

提示词后处理

注意: 当使用带有“无工具”的后处理选项时,不支持工具调用!

某些端点可能会对传入提示词的格式施加特定限制,例如仅需要一条系统消息或严格交替角色。

SillyTavern 提供内置提示词转换器来帮助满足这些要求(从最少到最严格):

  1. 无 - 除非 API 严格要求,否则不应用显式处理
  2. 合并来自同一角色的连续消息
  3. 半严格 - 合并角色并仅允许一条可选系统消息
  4. 严格 - 合并角色,只允许一个可选的系统消息,并且要求用户消息位于第一位
  5. 单个用户消息 - 将所有角色的所有消息合并到单个用户消息中

合并、半严格和严格还会从提示词中删除任何工具调用,除非选择“使用工具”变体。这对于不支持工具调用并且您现有的提示词包含工具调用的 API 非常有用。

除“自定义 OpenAI 兼容”之外,限制较少的选项对 SillyTavern 中实现的限制较多的端点没有影响;自定义可能会因无效请求而出错。

在严格模式下,如果第一条辅助消息之前不存在用户消息,则 promptPlaceholder 来自 config.yaml 将插入,默认为“[开始新聊天]”。