跳转至

GriptapeCloudPrompt 统一云端提示驱动与聚合模型连接节点

节点核心功能 (What is it?)

GriptapeCloudPrompt 驱动节点专用于在 Griptape 流程中无缝连接由 Griptape Cloud 官方托管的聚合 AI 云服务。通过该节点,创作者无需自行前往各个模型供应商处逐一申请注册 API 密钥,即可在一个统合的云端服务中调用多种顶级基础大模型。

典型适用场景 (When would I use it?)

在以下情况下使用该节点:

  • 直接通过单一 Griptape Cloud 统一凭据调用多种业界主流 AI 大模型(如 GPT-4o 等),免去多平台分别注册和维护独立 Key 的繁琐流程;
  • 为所有接受提示词驱动(Prompt Driver)的算子(如 Agent 智能体)提供即插即用、开箱即用的推理后端;
  • 统筹管理和监控企业与个人在 Griptape 统一云服务中的 Token 用量与额度消耗。

使用指南 (How to use it)

基础配置流程 (Basic Setup)

  1. 在工作流画布中添加 GriptapeCloudPrompt 节点。
  2. 将其输出引脚连接至需要提示驱动的节点(例如 Agent 智能体节点)。

参数输入插槽 (Parameters)

  • model:目标大模型名称标识(默认 "gpt-4o")。
  • stream(布尔值):流式传输开关(true 即时按 Token 流式生成,false 一次性整体返回)。
  • temperature(浮点数):采样发散度(越高越富有联想发散,越低越严谨聚焦)。
  • max_attempts_on_fail(整数):网络异常或服务波动时的重试上限次数。
  • use_native_tools(布尔值):是否开启模型原生工具调用(Function Calling)能力。
  • max_tokens(整数):单次生成响应的 Token 长度上限。
  • top_p(浮点数):核采样截断概率。

输出引脚 (Outputs)

  • prompt_model_config:组装完成的 Griptape Cloud 统一提示驱动对象,供下游消费。

典型工作流示例 (Example)

通过 Griptape Cloud 运行 GPT-4o 智能体:

  1. 添加 GriptapeCloudPrompt 节点至画布。
  2. 将 model 参数保持为 "gpt-4o"。
  3. 将该节点的输出连接至 Agent 的 prompt_driver 输入插槽。
  4. Agent 节点即可立即依托 Griptape Cloud 展开高效推理。

关键技术特性 (Important Notes)

  • 统一云凭证:需要在运行环境中配置有效的 Griptape API 密钥(环境变量 GT_CLOUD_API_KEY)。
  • 采样参数内部换算:节点底层支持 min_p 机制,并会在内部平滑转换为标准 top_p(换算公式:$\text{top_p} = 1 - \text{min_p}$)。

常见问题与排查 (Common Issues)

  • 缺少 API Key:确认环境已正确挂载 GT_CLOUD_API_KEY。
  • 连接错误:检查网络通畅度及 Griptape Cloud 账户订阅状态。