目录
基于 Prompt Engineering 的方案
基于模型微调的方案
T5
模型结构
MIGA
基于RAG 的方案
参考
基于 Prompt Engineering 的方案
这类方案比较简单粗暴,就是通过精心设计的提示来引导 LLM 生成 SQL,一般包含下面这些做法:
1. 零样本提示:直接向 LLM 提供数据库模式和自然语言查询,直接生成 SQL。
2. 少样本提示:在提示中包含几个示例,帮助 LLM 理解任务模式。
3. 链式思考(也就是 Chain-of-Thought):引导 LLM 逐步推理,分解复杂的 SQL 生成过程。
4. 自我纠正:让 LLM 生成 SQL 后,再让它检查和修正可能的错误。
基于模型微调的方案
这类方案是通过在特定数据集上微调预训练模型,使其更适合特定任务场景的 Text2SQL 任务:
指令微调:使用特定于任务的指令来微调 LLM。
多任