跳转至

自定义提供商 (兼容 OpenAI 标准规范) (Custom OpenAI-compatible)

选用此提供商类型,你可以将 Griptape Nodes 接入任何实现了业界标准 OpenAI Chat Completions API 协议 的服务终结点——无论是第三方商业大模型聚合平台(如 DeepSeek 官方、Moonshot、SiliconFlow、OpenRouter)、基于 vLLM / TGI 自建的企业私有大模型集群,还是公司内网的安全中继代理。


前置准备要素 (Prerequisites)

在配置前,请备妥以下三项核心要素:

  • Base URL 根地址:目标端点的基准接口路径(例如 https://api.openai.com/v1 或 https://api.deepseek.com/v1);
  • API Key 访问密钥:该端点颁发的身份鉴权密钥;
  • 精确的模型名称 (Model Name):指定调用的具体模型标识符(例如 deepseek-chat 或 meta-llama/Llama-3.3-70B-Instruct)——由于第三方自定义端点通常未开放标准模型自发现协议,因此在此处需要显式手动指定。

添加自定义提供商 (Add the Provider)

  1. 打开 Settings → Agent Settings;
  2. 点击 + Add Provider;
  3. 选择 Custom (OpenAI-compatible) 类型;
  4. 填写接入配置:
    • Name:在前端界面中呈现的自定义服务商显示名称;
    • Icon (可选):挑选一个最具辨识度的图标代表该服务;
    • Base URL:目标 API 的根路径;
    • API Key Secret (机密凭证托管):从已有凭据中挑选,或点击 + 现场新建一个安全凭证:
      • Secret Name:环境变量键名标识(例如 DEEPSEEK_API_KEY 或 CUSTOM_API_KEY);
      • Value:真实的密钥明文字符串。 保存后,在下拉列表中选中刚刚登记的凭证。
    • Model:键入需要在该端点上请求的精准模型唯一名称。
  5. 点击 Create Provider 完成创建。

连通性测试与验证 (Test)

创建完成后,向导会立即向该自定义端点发起握手测试。在即时验证视窗中确认大模型返回了正常的响应文本后,点击 Done 保存退出。


推荐延伸阅读