LLM任务节点
# LLM任务节点配置
——通过这篇文章了解任务流转中LLM任务节点的配置说明
# LLM任务节点的作用
我们希望您在了解LLM任务节点功能之前,了解它的使用场景:
● 功能定义:LLM任务节点是任务流程内用于自主对话和调用动作的节点。它以大模型为决策中枢,能自主理解客户诉求、收集关键信息、执行跨系统动作,以灵活动态地方式完成您设定的目标。
● 使用场景:
- 在真实客户服务场景中,多轮对话常因客户突然转移话题、答非所问或话语不完整等问题,导致预设好的流程难以灵活应对,流程完成率受到明显影响。
- 为提升任务流程对动态问题的处理能力,我们在设计中引入了LLM任务节点。该节点能够依据任务目标,在预设步骤的引导下开展自主多轮对话,并可调用外部工具以协助任务推进。其核心价值在于实时响应客户输入,根据对话进展及工具返回结果动态调整执行策略,直至任务达成。这一机制显著增强了对不确定对话场景的适应能力,有效保障复杂任务流程的顺利完成。
● 相比其他节点,LLM任务节点有以下差异:
差异 | LLM任务节点 | 其他流程节点 |
---|---|---|
场景 | 适合处理动态多变的对话场景,机器人能根据客户反馈自主决策和调整行为,例如: - 在收集客户信息时,响应商品咨询问题 - 当查询订单失败时,自主向客户核对订单号 - 当查询到客户附近无网点时,主动提供寄修建议 | 适合对话过程稳定,对准确性要求高的场景。 |
配置方式 | 用自然语言描述任务目标和任务描述,其中包含复杂的多个步骤。 | 拖拽不同的节点来设计复杂的多步骤任务。 |
执行方式 | 大模型根据任务目标和任务描述,自主决定对话内容和调用动作。 | 按照后台配置严格执行,例如预设的话术。 |
结束条件 | 在任务达到结束条件之前,会一直推进多轮对话。 | 运行完毕即进入下一节点。 |
对话体验 | 更拟人,理解能力更强 | 更稳定,更严格遵循配置 |
异常处理能力 | 能灵活应对在客服场景中各种无法预设的情况 | 对无法预设的情况缺少应对能力 |
# 场景示例
在智能制造行业的售后服务中,客户经常需要查询附近的维修网点或服务门店,以便对产品设备进行检修;或在查询门店时,突然问及相关保修政策等其他问题。通过 LLM 任务节点的配置,机器人可以在该节点自主调用接口、赋值变量、检索知识库等。
- 任务目标: 为客户查询服务网点信息。
- 任务描述:
step 1. 当用户需要查询网点时,收集用户所在城市,并通过动作「查询网点」获取当地是否有合适网点。
step 2. 如果当地有服务网点,告诉用户当前城市的所有服务网点, 使用接口出参 storename 询问用户需要去哪一个服务网点。如果用户曾经提到过想要去其中一个服务网点,则向用户确认是否要去提过的网点。
step 3. 收集到用户想去的服务网点后,将网点名称填充到变量「网点」。
step 4. 如果当地没有服务网点,询问用户是否接受寄修的方式。
提示: 如果用户对查询网点或营业时间有任何不满,通过动作「查询知识」进行专业知识的安抚。 - 知识库范围: 门店与服务网点知识库。
- 结束条件: 当客户明确表示要去特定服务网点时,结束当前LLM节点。
# 功能介绍
- 定义您的任务流程:根据业务定义当前流程,将其拆分为多个子任务
- 定义子任务:配置LLM任务节点,配置您的子任务
a. 任务目标:定义当前节点需要达成的目标
b. 任务步骤:定义该节点的大模型如何执行任务。在书写任务步骤提示词时,可以引用动作、变量,这将提示大模型在什么时候调用外部接口或存储数据。
● 引用变量:如需在不同LLM任务节点间传递数据,请在任务步骤中通过变量实现引用,例如:
i. 读取变量:读取变量「订单状态」,若状态为“已发货”,则执行相应操作;如未发货,则直接修改地址。
ii. 存储变量:将接口返回参数 orderid 的值存储至变量「订单号」中。
● 引用动作:
i. 您可以直接引用「知识中心-动作管理」已创建的动作。
ii. 书写示例:收集用户所在城市,并通过动作「查询网点」获取当地是否有合适网点。
● 使用接口参数:
i. 如果某个参数仅在当前LLM任务节点内部使用,无需存储为变量,可直接在提示词中引用参数名称。
ii. 书写示例:利用接口返回参数 orderid 调用动作「查询物流」,以获取用户物流进度信息。
c. 知识库范围:当识别到知识类问题时,LLM任务节点将调用知识库回答。您可以定义知识库查询范围。如您在任务步骤中主动引用「查询知识」动作,将引导大模型直接查询知识库,查询范围也在该配置知识库范围内。
d. 结束条件:您可以自定义结束条件,例如“当客户认为问题已解决”,则结束当前LLM任务节点,跟随分支走向下一节点。当超出最大问答轮次时,也会强制结束任务。 - 连接LLM任务节点和其他节点
- 测试大模型问答效果
上次更新: 2025/8/25 下午7:35:25