OpenAI
特定来源的说明
重要!
大多数 API 平台仅允许您在创建 API 密钥时查看一次生成的 API 密钥。如果丢失,则需要生成新密钥。请务必妥善保管!
开放人工智能
使用OpenAI的开发者平台可以接入各种OpenAI模型,包括gpt-4o、gpt-4.1、o3等。
如何获取 API 密钥:
克洛德
Claude 是 Anthropic 开发的一系列人工智能模型。您可以通过 Anthropic 控制台访问 Claude 模型。
如何获取 API 密钥:
米斯特拉尔人工智能
Mistral AI 是一个开发开放和专有模型的团队,具有高科学标准并注重开放性。您可以在本地或通过他们的 API 服务 La Plateforme 运行他们的模型。
如何获取 API 密钥:
深度搜索
DeepSeek 平台通过 API 提供对最新 DeepSeek 模型的访问。他们提供一系列型号,包括 DeepSeek V3 和 DeepSeek R1。
如何获取 API 密钥:
- 注册 DeepSeek平台.
- 注册并充值账户后,您可以在“API 密钥”部分。
人工智能21
AI21 Labs 提供一系列人工智能模型,包括其旗舰 Jamba 系列。您可以通过 AI21 Studio API 访问他们的模型。
如何获取 API 密钥:
- 前往 AI21工作室 并登录。
- 导航至“设置 => API 密钥”部分以创建新的 API 密钥。
连贯
Cohere 提供了一套适用于各种任务的 AI 模型,包括文本生成和嵌入。您可以通过 Cohere API 访问他们的模型。
如何获取 API 密钥:
困惑
Perplexity AI 通过其 API 提供对在线声纳模型的访问,以进行实时研究和信息检索。
官方入门指南: 困惑快速入门
如何获取 API 密钥:
烟花人工智能
Fireworks AI 是一个高性能平台,可提供对最先进的开源语言模型的快速、经济高效的访问。该平台通过兼容 OpenAI 的 API 提供无服务器部署,并支持高达 256,000 token 的上下文窗口。
如何获取 API 密钥:
电子集线器
Electron Hub 是一个统一的 OpenAI 兼容平台,可通过单个 API 密钥访问多个供应商的模型。
如何获取 API 密钥:
- 创建一个帐户 电子集线器.
- 生成 API 密钥 控制台 → API 密钥 页。
自定义 OpenAI 兼容端点
请务必注意,我们不会为您可能遇到的问题提供支持! 我们不保证与每个可能的 API 端点的兼容性!
如果您打算使用此功能来使用本地端点,例如 TabbyAPI、Oobabooga、Aphrodite 或任何类似的端点,您可能需要查看 内置兼容性 相反。自定义端点功能主要用于与公开 OpenAI 兼容 API 聊天补全端点的其他服务和程序一起使用。
大多数文本补全 API 支持的自定义选项比 OpenAI 标准允许的要多得多。这些更大的定制选项,例如 Min-P 采样器,可能值得 SillyTavern 用户检查,这可以大大提高生成的质量。
您可以为聊天完成后端配置备用端点。此自定义端点可以连接到任何支持通用 OpenAI API 架构的服务器。
兼容后端的示例包括:
正在连接
要访问此功能:
- 切换到“聊天补全”API 类型
- 为“聊天补全源”选择“自定义(OpenAI 兼容)”
输入自定义端点 URL 和 API 密钥(如果需要)。例如,TabbyAPI 需要 API 密钥进行身份验证。
提示: 如果您遇到连接问题,请尝试添加
/v1到端点 URL 的末尾。不要添加/chat/completions后缀。
选择型号
如果自定义 API 实现 /v1/models 端点提供可用模型的列表,您可以从下拉列表中进行选择。否则,请使用文本字段手动输入模型 ID。
选中“绕过 API 状态检查”以防止 SillyTavern 向您发出有关无法运行的 API 端点的警报。如果您的 API 端点工作正常但 SillyTavern 继续显示警告,请启用此选项。
单击“测试消息”,通过向模型发送简单的提示词来验证连接。
记录外部提供商?
提供商开发人员应该阅读 集成外部提供商 对于提供商拥有的设置指南模板和 UI 扩展、服务器插件和官方集成路线。
提示词后处理
注意: 当使用带有“无工具”的后处理选项时,不支持工具调用!
某些端点可能会对传入提示词的格式施加特定限制,例如仅需要一条系统消息或严格交替角色。
SillyTavern 提供内置提示词转换器来帮助满足这些要求(从最少到最严格):
- 无 - 除非 API 严格要求,否则不应用显式处理
- 合并来自同一角色的连续消息
- 半严格 - 合并角色并仅允许一条可选系统消息
- 严格 - 合并角色,只允许一个可选的系统消息,并且要求用户消息位于第一位
- 单个用户消息 - 将所有角色的所有消息合并到单个用户消息中
合并、半严格和严格还会从提示词中删除任何工具调用,除非选择“使用工具”变体。这对于不支持工具调用并且您现有的提示词包含工具调用的 API 非常有用。
除“自定义 OpenAI 兼容”之外,限制较少的选项对 SillyTavern 中实现的限制较多的端点没有影响;自定义可能会因无效请求而出错。
在严格模式下,如果第一条辅助消息之前不存在用户消息,则 promptPlaceholder 来自 config.yaml 将插入,默认为“[开始新聊天]”。