自定义提供商 (兼容 OpenAI 标准规范) (Custom OpenAI-compatible)
选用此提供商类型,你可以将 Griptape Nodes 接入任何实现了业界标准 OpenAI Chat Completions API 协议 的服务终结点——无论是第三方商业大模型聚合平台(如 DeepSeek 官方、Moonshot、SiliconFlow、OpenRouter)、基于 vLLM / TGI 自建的企业私有大模型集群,还是公司内网的安全中继代理。
前置准备要素 (Prerequisites)
在配置前,请备妥以下三项核心要素:
- Base URL 根地址:目标端点的基准接口路径(例如
https://api.openai.com/v1或https://api.deepseek.com/v1); - API Key 访问密钥:该端点颁发的身份鉴权密钥;
- 精确的模型名称 (Model Name):指定调用的具体模型标识符(例如
deepseek-chat或meta-llama/Llama-3.3-70B-Instruct)——由于第三方自定义端点通常未开放标准模型自发现协议,因此在此处需要显式手动指定。
添加自定义提供商 (Add the Provider)
- 打开 Settings → Agent Settings;
- 点击 + Add Provider;
- 选择 Custom (OpenAI-compatible) 类型;
- 填写接入配置:
- Name:在前端界面中呈现的自定义服务商显示名称;
- Icon (可选):挑选一个最具辨识度的图标代表该服务;
- Base URL:目标 API 的根路径;
- API Key Secret (机密凭证托管):从已有凭据中挑选,或点击 + 现场新建一个安全凭证:
- Secret Name:环境变量键名标识(例如
DEEPSEEK_API_KEY或CUSTOM_API_KEY); - Value:真实的密钥明文字符串。 保存后,在下拉列表中选中刚刚登记的凭证。
- Secret Name:环境变量键名标识(例如
- Model:键入需要在该端点上请求的精准模型唯一名称。
- 点击 Create Provider 完成创建。
连通性测试与验证 (Test)
创建完成后,向导会立即向该自定义端点发起握手测试。在即时验证视窗中确认大模型返回了正常的响应文本后,点击 Done 保存退出。
推荐延伸阅读
- AI 模型提供商总览
- Ollama 离线接入指南 — 零 API Key 的纯本地模型
- LM Studio 离线接入指南 — 图形化本地模型工作站