GriptapeCloudPrompt 统一云端提示驱动与聚合模型连接节点
节点核心功能 (What is it?)
GriptapeCloudPrompt 驱动节点专用于在 Griptape 流程中无缝连接由 Griptape Cloud 官方托管的聚合 AI 云服务。通过该节点,创作者无需自行前往各个模型供应商处逐一申请注册 API 密钥,即可在一个统合的云端服务中调用多种顶级基础大模型。
典型适用场景 (When would I use it?)
在以下情况下使用该节点:
- 直接通过单一 Griptape Cloud 统一凭据调用多种业界主流 AI 大模型(如 GPT-4o 等),免去多平台分别注册和维护独立 Key 的繁琐流程;
- 为所有接受提示词驱动(Prompt Driver)的算子(如 Agent 智能体)提供即插即用、开箱即用的推理后端;
- 统筹管理和监控企业与个人在 Griptape 统一云服务中的 Token 用量与额度消耗。
使用指南 (How to use it)
基础配置流程 (Basic Setup)
- 在工作流画布中添加 GriptapeCloudPrompt 节点。
- 将其输出引脚连接至需要提示驱动的节点(例如 Agent 智能体节点)。
参数输入插槽 (Parameters)
- model:目标大模型名称标识(默认
"gpt-4o")。 - stream(布尔值):流式传输开关(
true即时按 Token 流式生成,false一次性整体返回)。 - temperature(浮点数):采样发散度(越高越富有联想发散,越低越严谨聚焦)。
- max_attempts_on_fail(整数):网络异常或服务波动时的重试上限次数。
- use_native_tools(布尔值):是否开启模型原生工具调用(Function Calling)能力。
- max_tokens(整数):单次生成响应的 Token 长度上限。
- top_p(浮点数):核采样截断概率。
输出引脚 (Outputs)
- prompt_model_config:组装完成的 Griptape Cloud 统一提示驱动对象,供下游消费。
典型工作流示例 (Example)
通过 Griptape Cloud 运行 GPT-4o 智能体:
- 添加 GriptapeCloudPrompt 节点至画布。
- 将
model参数保持为"gpt-4o"。 - 将该节点的输出连接至 Agent 的
prompt_driver输入插槽。 - Agent 节点即可立即依托 Griptape Cloud 展开高效推理。
关键技术特性 (Important Notes)
- 统一云凭证:需要在运行环境中配置有效的 Griptape API 密钥(环境变量
GT_CLOUD_API_KEY)。 - 采样参数内部换算:节点底层支持
min_p机制,并会在内部平滑转换为标准top_p(换算公式:$\text{top_p} = 1 - \text{min_p}$)。
常见问题与排查 (Common Issues)
- 缺少 API Key:确认环境已正确挂载
GT_CLOUD_API_KEY。 - 连接错误:检查网络通畅度及 Griptape Cloud 账户订阅状态。