跳转至

CoherePrompt 提示驱动配置与 Command 系列模型连接节点

节点核心功能 (What is it?)

CoherePrompt 驱动节点专用于在 Griptape 流程中建立与 Cohere 企业级 AI 推理服务（如 Command R、Command R+ 等模型）的高性能直连与超参数配置。

典型适用场景 (When would I use it?)

在以下情况下使用该节点：

  • 在自动化业务流中调用 Cohere 的多语言对话与结构化检索增强模型；
  • 充分发挥 Cohere 模型在多步工具调用（Tool Use）、RAG 知识库检索以及高质量引文生成方面的原生优势；
  • 为 Agent 赋予企业级高性价比的推理底座。

使用指南 (How to use it)

基础配置流程 (Basic Setup)

  1. 在工作流画布中添加 CoherePrompt 节点。
  2. 将其输出引脚连接至需要提示驱动的节点（例如 Agent 智能体节点）。

参数输入插槽 (Parameters)

  • model：要调用的 Cohere 模型标识符（默认 "command-r-plus"）。
  • max_attempts_on_fail（整数）：网络请求异常或超时时的自动重试上限次数。
  • use_native_tools（布尔值）：是否启用 Cohere 原生的 Function Calling 工具调用能力。
  • max_tokens（整数）：单次生成响应的最大 Token 上限。
  • p（浮点数）：Top-P 核采样截断概率。
  • k（整数）：Top-K 候选采样集合大小。
  • temperature（浮点数）：控制采样随机性（数值越高越富有创造性，越低越确定保守）。
  • stream（布尔值）：是否开启响应 Token 实时流式传输。

输出引脚 (Outputs)

  • prompt_model_config：打包封装就绪的 Cohere 驱动对象，供下游下游处理算子接入消费。

典型工作流示例 (Example)

为智能体挂载 Cohere Command-R 模型：

  1. 添加 CoherePrompt 节点至画布。
  2. 将其输出连接至 Agent 的 prompt_driver 输入引脚。
  3. 可进一步将 model 切换为适用于低延迟任务的轻量版模型，并将 max_tokens 设定为 1000。

关键技术特性 (Important Notes)

  • 环境变量凭证：需要在运行环境中配置有效的 Cohere API Key（环境变量 COHERE_API_KEY）。
  • 默认模型配置：开箱默认指定为工业界领先的 "command-r-plus"。
  • 连接预校验：节点会在载入时自动校验 API Key 的可用性。

常见问题与排查 (Common Issues)

  • 缺少 API Key：请在系统环境变量或客户端偏好设置中正确配置 COHERE_API_KEY。
  • 连接超时：确认与 Cohere 云端 API 端点之间的网络路由连通性。