提示技术系列(12)——程序辅助语言模型

什么是提示技术?

        提示技术是实现提示工程目标的具体技术手段,是提示工程中的“工具库”

什么又是提示工程?

        提示工程是指通过设计、优化和迭代输入到大语言模型(LLM)的提示(Prompt),系统性提升模型输出质量(如相关性、准确性、可控性)的实践领域。它是一个覆盖全流程方法论,包括:

  • 明确目标任务(如生成教学内容、问答、翻译);
  • 设计提示结构(如指令、上下文、示例);
  • 选择模型与参数(如温度、top_p);
  • 验证与迭代(根据输出调整提示)。

其核心是“通过工程化方法控制大语言模型(LLM)的行为”


概念

        使用大语言模型读取自然语言问题生成程序作为中间推理步骤的方法,被称为程序辅助语言模型(Program-Aided Language Models, PAL)。

概念图解

应用场景

  1. 数学与逻辑推理:解决复杂数学问题,如微积分、代数方程、几何证明等;
  2. 数据分析与处理:自动化数据分析,生成可视化图表,计算统计指标等;
  3. 编程辅助:为开发者生成代码片段,解决实际问题,如生成特定功能的 Python代码等;
  4. 教育与学习:帮助学生理解数学或编程问题,并通过代码提供具体步骤等;
  5. ……

案例实操

使用工具:扣子

实现方式:扣子工作流

完整工作流如下:

工作流节点配置信息:

开始节点:

生成 Python代码节点:

正则提取 Python代码节点:

里面的代码是 Python 语言,具体如下:

# 在这里,您可以通过 'args'  获取节点中的输入变量,并通过 'ret' 输出结果
# 'args' 已经被正确地注入到环境中
# 下面是一个示例,首先获取节点的全部输入参数params,其次获取其中参数名为'input'的值:
# params = args.params; 
# input = params['input'];
# 下面是一个示例,输出一个包含多种数据类型的 'ret' 对象:
# ret: Output =  { "name": '小明', "hobbies": ["看书", "旅游"] };async def main(args: Args) -> Output:params = args.paramscode_param = params['input']import recode_match = re.search(r"```python(.*?)```", code_param, re.DOTALL)if not code_match:raise ValueError("无法从模型输出中提取Python代码")generated_code = code_match.group(1).strip()# 构建输出对象ret: Output = {"key0":  generated_code}return ret

CodeRunner插件节点:

结束节点:

测试输入:

小明有5个苹果,7个香蕉。吃了2个香蕉,又买了3个苹果,请问现在有几个水果?

运行结果:

大家若有编程基础的话,可以参考下面的代码案例来实现与体验不同场景下使用程序辅助语言模型提示。

代码实现程序辅助语言提示

技术栈:Python;LangChain

代码实现引用包导入:

pip install langchain_experimental==0.3.4;
pip install langchain_core==0.3.66;
pip install langchain_community==0.3.26;

具体代码:

import os
import refrom dotenv import load_dotenv
from langchain_community.chat_models import ChatZhipuAI
from langchain_core.prompts import ChatPromptTemplate
from langchain_experimental.utilities.python import PythonREPL# 加载环境变量
load_dotenv()# 1. 初始化智谱AI模型(GLM-4)
zhipu_chat = ChatZhipuAI(model="glm-4",api_key=os.getenv("ZHIPUAI_API_KEY")
)# 2. 创建Python代码执行环境
python_repl = PythonREPL()  # 实例化 REPL 工具# 3. 设计PAL提示模板
pal_prompt = ChatPromptTemplate.from_messages([("system","""你是一名数学教师助手,必须通过生成可执行的Python代码来解决问题。步骤:1. 先理解题目中的数学关系2. 生成能解决问题的Python代码3. 代码必须包含print输出最终答案4. 不要直接给出数学计算结果"""),("human", "题目:{question}"),]
)# 4. 创建PAL工作流
def solve_math_problem(question: str):# 生成Python代码code_generation = zhipu_chat.invoke(pal_prompt.format_messages(question=question))# 提取生成的代码(实际应用中需要更严谨的代码提取逻辑)code_match = re.search(r"```python(.*?)```", code_generation.content, re.DOTALL)if not code_match:raise ValueError("无法从模型输出中提取Python代码")generated_code = code_match.group(1).strip()# 执行代码try:result = python_repl.run(generated_code)except Exception as e:return {"error": f"代码执行失败: {str(e)}","generated_code": generated_code}return {"generated_code": generated_code,"execution_result": result}# 5. 测试案例
math_question = "小明有5个苹果,7个香蕉。吃了2个香蕉,又买了3个苹果,请问现在有几个水果?"print("正在处理中,请等待...")
solution = solve_math_problem(math_question)print("=== 生成的Python代码 ===")
print(solution["generated_code"])
print("\n=== 执行结果 ===")
if "error" in solution:print(f"错误: {solution['error']}")
else:print(solution["execution_result"])

总结与思考

        自动推理并使用工具(ART),是让 LLM 自主规划任务并判断是否要调用工具,工具是已存在的(当工具是函数时,也就是代码),这与程序辅助语言模型(PAL)有明显的不同,具体的不同可以对比分析来看:

维度

自动推理并使用工具(ART)

程序辅助语言模型(PAL)

核心思想

利用大语言模型(LLM)自动生成推理步骤,并结合外部工具(如API、数据库)执行复杂任务。

让LLM生成可执行的程序代码作为中间推理步骤,调用解释器完成计算或逻辑推理。

是否依赖程序生成

否,但可调用现成程序/工具。

是,LLM直接生成可运行的程序代码(如Python脚本)。

是否调用外部工具

是,主动选择和调用外部工具(如搜索、计算器、数据库查询)。

否,仅生成程序,不涉及真实外部系统交互。

推理方式

基于自然语言的多步推理 + 工具调用链。

基于编程语言的符号推理,借助代码实现逻辑运算。

输出形式

自然语言推理路径 + 工具调用结果。

程序代码 + 解释器执行结果。

是否需要训练

不需微调模型,仅通过提示工程实现。

不需微调模型,仅通过提示工程实现。

是否支持动态交互

是,可根据中间结果调整后续推理路径。

是,根据问题结构动态生成不同代码段。

是否适合非结构化任务

是,适用于自然语言理解+工具调用结合的任务。

否,更适合结构化数学/逻辑任务。

资源消耗

高(需调用多个外部工具,可能有网络延迟)。

中等(仅需执行轻量级代码片段)。

可解释性

高,推理路径清晰,工具调用过程透明。

高,程序代码明确,执行流程可见。

典型指令示例

“请一步步思考如何解决这个问题,必要时调用计算器或搜索最新数据。”

“请用Python代码解决以下数学题:...”

一句话总结来说:        

        ART 更强调“推理+工具调用”的联动,适用于现实世界中需要访问外部数据服务的复杂任务;而 PAL 更专注于“用程序代码辅助推理”,在结构化逻辑和数学问题上表现出色。

 好了,到此。


提示技术系列,接下来分享:ReAct 框架等等

为了方便大家学习,这里给出专栏链接:https://blog.csdn.net/quf2zy/category_12995183.html

欢迎大家一起来学习与交流……

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如若转载,请注明出处:http://www.pswp.cn/bicheng/87707.shtml
繁体地址,请注明出处:http://hk.pswp.cn/bicheng/87707.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

明远智睿H618:开启多场景智慧生活新时代

在数字化浪潮的推动下,智能设备正深刻地改变着我们的生活方式。明远智睿H618以其强大的功能和卓越的性能,在家庭娱乐、商业展示、教育培训和智能家居控制等多个领域展现出巨大的应用潜力,开启了多场景智慧生活的新时代。 家庭娱乐&#xff1…

探秘展销编辑器:相较于传统展销的卓越优势与甄选指南​

在竞争激烈的商业环境中,企业期望通过展销活动提升品牌知名度、推广产品和拓展市场,但传统展销方式存在诸多难题。一是场地限制,优质场地稀缺、租金贵、档期紧,场地空间和布局也不一定合适;二是展示形式单一,多为静态展…

第31篇:块设备与字符设备管理深度解析(基于OpenEuler 24.03)

块设备与字符设备管理深度解析(基于OpenEuler 24.03) 文章目录 块设备与字符设备管理深度解析(基于OpenEuler 24.03)一、设备基础概念体系1.1 块设备的核心特性与分类1.2 字符设备的流式数据模型1.3 设备标识系统:主设…

Django Channels WebSocket实时通信实战:从聊天功能到消息推送

引言 在Web开发中,实时通信功能(如在线聊天、实时通知、数据推送)已成为许多应用的核心需求。传统的HTTP协议由于其请求-响应模式的限制,无法高效实现实时通信。WebSocket作为一种全双工通信协议,为实时Web应用提供了…

day52 神经网络调参指南

目录 随机种子 内参的初始化 神经网络调参指南 参数的分类 调参顺序 初始化参数 batchsize的选择 学习率调整 激活函数的选择 损失函数的选择 模型架构中的参数 正则化系数 其他补充 随机种子 import torch import torch.nn as nn# 定义简单的线性模型&#xf…

.NET9 实现斐波那契数列(FibonacciSequence)性能测试

在 .NET 平台上实现 斐波那契数列 并使用 BenchmarkDotNet 进行性能测试&#xff0c;是评估不同算法实现方式性能表现的一种高效且标准化的方法。通过该方式&#xff0c;可以对比递归、迭代、记忆化递归以及结合高性能优化技术&#xff08;如 Span<T>、Memory<T> 和…

三、docker软件安装:gitlab,nexus,mysql8,redis,nacos,nginx

目录 1.gitlab安装 2.nexus安装 (1)下载启动 (2)设置中央仓库远程地址 (3)配置maven的settings.xml 3.mysql8安装 4.redis安装 5.nacos安装 6.nginx安装 1.gitlab安装 #创建目录 cd /usr/local/ mkdir docker cd docker/ mkdir gitlab_docker cd gitlab_docker…

【与AI+】SAP WEBGUI集成开发与SAP INTERNET服务的关系

前言&#xff1a;这是我的水水专栏第五篇文章&#xff0c;这个专栏呢&#xff0c;是放一些我向AI提问的问题&#xff0c;以及AI的回答。因为感觉真的好方便哈哈哈~ 我不是很确定我的专栏文章内容是否涉及版权&#xff0c;以及也不确定这些整合过的文字是否涉嫌抄袭&#xff0c…

浅谈几种js设计模式

JavaScript设计模式是开发中常用的一种解决方案&#xff0c;它们帮助开发者以一种更结构化、更易维护的方式编写代码。本文将深入介绍几种常见的JavaScript设计模式&#xff0c;包括单例模式、工厂模式、观察者模式和策略模式。 一、单例模式&#xff08;Singleton Pattern&am…

手写 Vue 中虚拟 DOM 到真实 DOM 的完整过程

目录 一、虚拟 DOM 的核心概念 二、虚拟 DOM 到真实 DOM 的流程 三、手写虚拟 DOM 到真实 DOM 的实现 1. 定义虚拟 DOM 的结构&#xff08;VNode&#xff09; 2. 创建虚拟 DOM 转真实 DOM 的函数 3. 挂载虚拟 DOM 到页面 4. 更新虚拟 DOM 的过程&#xff08;Diff 算法简化…

jmm--volatile

指令重排基础概念 在现代处理器和编译器为了提高程序执行效率&#xff0c;会对指令进行优化&#xff0c;其中一种优化方式就是指令重排序。在单线程环境下&#xff0c;指令重排序不会影响最终执行结果&#xff0c;因为处理器和编译器会保证重排序后的执行结果与按照代码顺序执行…

【硬件开发】滤波电容的选择:原理、计算与多电压值应用实践

滤波电容的选择&#xff1a;原理、计算与多电压值应用实践 1. 引言 在现代电子系统中&#xff0c;稳定的电源供应是保证电路可靠运行的基础。然而&#xff0c;电源线上往往不可避免地存在各种噪声和纹波&#xff0c;这些干扰可能源自电源本身&#xff08;如整流后的脉动直流&…

【seismic unix数据生成-unif2】

Seismic Unix简介 Seismic Unix&#xff08;SU&#xff09;是由科罗拉多矿业学院&#xff08;Colorado School of Mines&#xff09;开发的开源地震数据处理软件包&#xff0c;专为地震勘探数据分析和研究设计。它提供了一系列命令行工具&#xff0c;支持从数据加载、处理到可…

【逆向思考 并集查找】P2391 白雪皑皑|省选-

本文涉及知识点 C并集查找 P2391 白雪皑皑 题目背景 “柴门闻犬吠&#xff0c;风雪夜归人”&#xff0c;冬天&#xff0c;不期而至。千里冰封&#xff0c;万里雪飘。空中刮起了鸭毛大雪。雪花纷纷&#xff0c;降落人间。 美能量星球&#xff08;pty 在 spore 上的一个殖民地…

一文讲清楚React中setState的使用方法和机制

文章目录 一文讲清楚React中setState的使用方法和机制1. setState是什么2. setState方法详解2.1 setState参数详解2.2 setState同步异步问题2.2.1 setState异步更新2.2.2 setState同步更新 一文讲清楚React中setState的使用方法和机制 1. setState是什么 React中&#xff0c;…

01_软件卓越之道:功能性与需求满足

引言 在软件的世界里&#xff0c;功能性是产品与用户之间的第一桥梁。一个软件即使拥有华丽的界面和极致的性能&#xff0c;如果不能解决用户的核心需求&#xff0c;也终将被市场淘汰。本文将深入探讨如何确保软件的功能性与用户需求完美契合。 1. 需求理解&#xff1a;从模糊…

StarRocks × Tableau 连接器完整使用指南 | 高效数据分析从连接开始

一、导语&#xff1a;为什么选择 StarRocks Tableau 连接器&#xff1f; 在当今数据驱动的商业环境中&#xff0c;企业不仅需要一个能够处理海量数据的高性能分析数据库&#xff0c;还需要一个直观、强大的可视化工具来解读数据背后的故事。StarRocks 作为新一代极速全场景 MP…

基于 SpringBoot+VueJS 助农生鲜销售系统设计与实现7000字论文实现

摘要本论文设计并实现了一个基于 SpringBoot 和 VueJS 的助农生鲜销售系统。系统采用前后端分离架构&#xff0c;前端使用 VueJS 框架实现用户界面&#xff0c;后端使用 SpringBoot 框架构建服务&#xff0c;通过 MyBatis 实现数据持久化。系统实现了农产品展示、在线购物、订单…

Pytest 测试发现机制详解:自动识别测试函数与模块

概述 在编写自动化测试时,如何让 Pytest 自动找到你的测试代码 是一个非常基础但重要的问题。Pytest 通过其强大的 测试发现(Test Discovery)机制,能够自动扫描项目目录、识别测试模块和测试函数,从而大大简化了测试流程。 本文将为你详细讲解 Pytest 的测试发现机制,包…

MySQL 时间日期函数

时间日期类型 MySQL中主要支持以下几种时间日期类型&#xff1a; DATE - 日期类型 格式&#xff1a;YYYY-MM-DD范围&#xff1a;1000-01-01 到 9999-12-31示例&#xff1a;2023-05-20 TIME - 时间类型 格式&#xff1a;HH:MM:SS范围&#xff1a;-838:59:59 到 838:59:59示例&…