跳转至

OpenAiPrompt 提示驱动配置与 OpenAI GPT 系列模型直连节点

节点核心功能 (What is it?)

OpenAiPrompt 驱动节点专用于在 Griptape 工作流中建立与 OpenAI 官方大语言模型服务(如 GPT-4o、GPT-4o-mini 等)的直连通道与超参数定制环境。

典型适用场景 (When would I use it?)

在以下情况下使用该节点:

  • 在自动化工作流管线中直接接入并调用 OpenAI 官方的原生对话与推理模型;
  • 为 downstream Agent 或生成节点定制专属的 GPT 运行参数;
  • 精细控制 GPT 模型的采样发散度、最大生成长度以及模型原生的工具调用行为。

使用指南 (How to use it)

基础配置流程 (Basic Setup)

  1. 在工作流画布中添加 OpenAiPrompt 节点。
  2. 将其输出引脚连接至需要提示驱动的节点(例如 Agent 智能体节点)。

参数输入插槽 (Parameters)

  • model:要调用的 OpenAI 模型官方标识符(默认 "gpt-4o")。
  • stream(布尔值):流式传输开关(true 即时按 Token 流式吐出响应,false 等待完整生成后一次性返回)。
  • temperature(浮点数):采样发散度(数值越高越富有联想发散,数值越低越确定保守)。
  • use_native_tools(布尔值):是否开启 OpenAI 原生的 Function Calling 工具调用能力。
  • max_tokens(整数):单次生成响应的最大 Token 长度限制。
  • max_attempts_on_fail(整数):网络抖动或触发限流时的最大重试尝试次数。
  • top_p(浮点数):核采样截断概率。

输出引脚 (Outputs)

  • prompt_model_config:打包封装就绪的 OpenAI 驱动配置工件,供 Agent 等下游算子直接挂载消费。

典型工作流示例 (Example)

为智能体挂载高确定性的 GPT-4o 引擎:

  1. 添加一个 OpenAiPrompt 节点至画布。
  2. 将其输出端连接至 Agent 节点的 prompt_driver 输入插槽。
  3. 调控生成策略:
    • 将 model 指定为 "gpt-4o";
    • 将 temperature 调低至 0.2(适合高精度问答、数据提取与代码生成);
    • 将 max_tokens 设定为 2000 以支持更充沛的思考与输出长度。

关键技术特性 (Important Notes)

  • 环境变量凭证:需要在运行环境中配置有效的 OpenAI 官方密钥(环境变量 OPENAI_API_KEY)。
  • 参数支持差异:OpenAI 官方 API 不支持 top_k 参数;底层若有 min_p 配置会自动换算映射为对应的 top_p($\text{top_p} = 1 - \text{min_p}$)。
  • 原生生态集成:支持原生标准的 Function Calling,与各类 Structured Outputs(结构化输出)及外部工具完美契合。

常见问题与排查 (Common Issues)

  • 缺少 API Key:确认环境已正确挂载 OPENAI_API_KEY。
  • 配额超限 (Quota Exceeded):请登录 OpenAI Platform 检查绑定支付方式及账户当前的使用额度与余额状态。