RAFT：让语言模型更聪明地用文档答题

作者注： 本文旨在面向零基础读者介绍 UC Berkeley 提出的 RAFT（Retrieval-Augmented Fine-Tuning）方法。它是一种训练语言模型的新方式，让模型更好地利用“外部知识”——比如文档、网页或数据库回答问题。

• 无需背景知识，本文将带你从“开卷考试”的类比出发，逐步理解它的核心理念与实践效果。

---

一、背景：大模型真的理解文档了吗？

如今的大语言模型（LLM），如 GPT、Claude、LLaMA 等，已具备强大的通用能力。然而，它们在处理 特定领域、基于文档回答问题 的任务时，表现常常不尽如人意。

为什么？因为它们：

• 要么完全靠记忆作答；
• 要么虽然可以看文档，但从未学会如何使用它们。

换句话说，它们面对“开卷考试”时，不知道怎么查资料。

---

二、RAFT 是什么？

RAFT，全称 Retrieval-Augmented Fine-Tuning（检索增强微调），是一种专门针对特定领域问答任务的训练方法。核心思想是：

在训练阶段，给模型配上一些 相关文档 + 干扰文档，让它学会辨别、引用和推理，从而提升真实场景下的答题能力。

RAFT 属于“后训练”方法，适用于已有预训练模型基础上，通过额外训练，适配特定文档集合。

---

三、一场模拟“开卷考试”

RAFT 使用了一个非常易懂的比喻——“开卷考试”，来说明不同方法之间的差别：

方法类型	比喻	特点
闭卷模型	考试时不能看书	模型只靠预训练知识，答题效果有限
传统 RAG 方法	考试时翻书但没准备	模型能看文档，但不懂如何使用，效果不稳定
RAFT 方法	考前练习开卷考试	模型在训练阶段就学会了用文档答题，表现更好

RAFT 的“准备”包括：

• 学会辨认哪些文档是“有用的”
• 学会引用文档内容来回答问题
• 学会写出有逻辑的、带有推理链（Chain-of-Thought） 的回答

---

四、RAFT 的训练方法详解

RAFT 的训练数据设计如下：

1. 训练输入

每条训练样本包括：

• 一个问题（Question, Q）
• 一组文档（Documents, Dₖ）
  • 1~N 篇“黄金文档”（含有正确信息）
  • 若干“干扰文档”（Distractors）
• 一个推理链式答案（Answer, A*）

2. 数据构造比例（P%）

RAFT 有意识地控制黄金文档的出现比例：

• P% 的样本包含黄金文档
• (1-P)% 的样本仅包含干扰项

这样做的目的：

• 一方面训练模型学会从文档中“找答案”
• 另一方面，保留对问题本身的理解能力（即使没有黄金文档，也能作答）

---

五、推理链与引用机制

RAFT 的答案不是简简单单的一句话，而是具备结构化的推理过程：

• 引用内容用 ##begin_quote##...##end_quote## 包裹
• 这样训练出来的模型能写出更有逻辑、来源清晰的答案

---

六、效果评估与实验结果

RAFT 在多个基准任务上进行了测试，包括：

• PubMed QA（医学问答）
• Hotpot QA（多跳问答）
• Gorilla APIBench（API 使用理解）

结果如下：

模型版本	Hotpot QA 分数	HuggingFace 分数
LLaMA2 + RAG	0.03	26.43
Domain-Specific + RAG	4.41	42.59
RAFT（Ours）	35.28	74.00

我们可以看出 RAFT 相比现有方法，优势非常明显。

---

七、重要发现：干扰文档不全是坏事

训练中适度加入干扰文档，反而能提升模型的鲁棒性——帮助它识别无关内容而不过度“记忆”答案。
黄金文档比例 P% 对模型性能的影响 (原文图 5)：

---

如果你正面临“模型不会读文档”的问题，RAFT 是一个值得尝试的方案 – 但是训练代价比较大 (个人级不推荐！)

资源链接：

• 论文原文：RAFT: Adapting Language Model to Domain Specific RAG
• 代码仓库（包含数据和模型训练脚本）