RAG 还是微调？你的 AI 应用该选哪个

「我们要给 AI 接上公司知识库，该用 RAG 还是微调？」这是 2026 年被问到最多的问题，没有之一。两个方案都能让模型「懂」你的数据，但原理、成本、适用场景完全不同。选错方向，轻则白烧几万块，重则把生产系统带进坑。这篇文章用一张对比表和四步决策法，帮你一次选对。

一、先搞清楚两者在做什么

RAG（检索增强生成）：把知识库切块、向量化、存进向量数据库；每次提问时先检索最相关的片段，连同问题一起交给模型。模型「临时查资料再回答」，答案可溯源。

微调（Fine-tuning）：用你的数据继续训练模型权重，改变模型本身的「知识」和「行为」。模型「把资料背进了脑子里」，回答更快但不可溯源。

一句话区分：RAG 是给模型配了个书架，微调是给模型补了门课。

二、核心对比表

维度	RAG	微调
数据更新	秒级：更新向量库即可	小时到天级：需要重新训练
成本	主要是 token 与向量库开销	训练费用 + 推理费用
可解释性	可引用原文溯源	黑盒，无法证明依据
数据量门槛	几十篇文档即可起步	通常需要数万条高质量样本
技术门槛	中等：切片 + 向量化 + 检索	较高：数据清洗 + 训练调参
延迟	多一次检索，略增	无额外环节，略低
擅长	事实问答、知识库、实时信息	风格模仿、格式输出、领域术语

表格之外还有两个隐性差异：一是数据更新频率——RAG 是「改文档就生效」，微调是「重新训练才生效」，对价格表、政策法规这类高频变动内容，微调基本不现实；二是失败模式——RAG 检索不到时会「诚实地不知道」，这是可诊断、可修复的；微调学错了会「自信地错」，排查成本高得多。

三、什么时候用 RAG

• 知识会变：产品文档、政策法规、价格表——今天改明天就要生效，RAG 更新就是一次向量化。
• 答案必须能证明：客服、法务、医疗、金融场景，用户要「你说的是哪来的」。RAG 可以引用片段，微调做不到。
• 数据量大且分散：几千份文档直接喂给微调既不现实也没必要。
• 起步预算有限：RAG 用现成 embedding 加开源向量库（pgvector）就能跑，完整实战见《RAG 实战指南：用 pgvector 搭建企业知识库》。

四、什么时候用微调

• 风格与语气：让模型像你的品牌说话、像你的客服团队回复，微调效果远好于提示词。
• 固定格式输出：公司特定的 JSON schema、单据格式、代码规范——微调后格式错误率大幅下降。
• 领域术语内化：医疗、金融、法律术语，微调让模型「张口就来」而不是每次都要检索。
• 低延迟强需求：微调后没有检索环节，每请求省下几十到几百毫秒，配合延迟优化把延迟打到底。

五、混合架构：2026 年的主流答案

现实中大多数生产系统是「RAG + 微调」组合拳：

1. 微调负责「人设」：语气、格式、领域术语——这些是稳定的，训练一次管很久。
2. RAG 负责「事实」：具体知识——这些是变化的，靠检索保持新鲜。
3. 路由负责分流：事实类问题走 RAG，风格类任务（摘要、改写、润色）直接走模型。

这也是主流平台默认的架构：接入 AI 聊天时先接 RAG 解决「知识」问题，等积累到足够数据再考虑微调「行为」。

另外提醒一点：混合架构的顺序很重要——先 RAG、后微调。直接微调一个没有 RAG 骨架的应用，等于在不确定的「行为地基」上盖楼，出了问题很难定位是知识问题还是行为问题。

六、三个常见误区

• 误区一：「RAG 效果不好，所以应该微调」——先排查检索质量：切片大小、embedding 模型、重排序（rerank）都试过了吗？80% 的「RAG 不好用」是检索链路的问题，不是 RAG 本身的问题。
• 误区二：「微调一次，一劳永逸」——业务知识在变，微调模型会越来越「过时」。把微调当作「行为训练」，把知识更新永远交给 RAG，才是可持续的架构。
• 误区三：「微调更便宜」——只算训练费、不算数据工程和评估的人，通常会在第二个季度发现账单远超预期。做微调决策前，先按上一节的方法做完整的成本模型。

这三个误区每年都在重复上演，先对照检查，能帮你省下一笔不小的学费。

七、成本账：别被「免费微调」骗了

微调的隐藏成本常被低估：数据标注（最贵）、多轮训练实验、评估回归、以及微调后的推理定价（微调模型的 token 单价通常高于基础模型）。RAG 的成本则主要是 embedding 和检索，随数据量线性增长。一个 10 万文档的知识库，RAG 月成本通常在几十美元量级；同样效果的微调，前期数据工程就可能烧掉数万元。具体的 token 成本怎么算，参考GPT-5 API 价格全解析里的成本模型。

八、四步决策法

1. 你的数据会频繁变化吗？会 → RAG。
2. 答案需要引用来源吗？需要 → RAG。
3. 你需要模型「像某个人 / 某种风格」吗？需要 → 微调（或微调 + RAG）。
4. 你已有 5 万条以上高质量问答样本吗？没有 → 先用 RAG 跑起来。

大多数团队的正确路径是：先用 RAG 上线，跑通业务，攒数据，再评估微调。别一上来就微调——那是把最大的一笔钱花在最不确定的地方。想从零开始？注册 DrAI，用免费额度把 RAG 原型先跑起来。

如果看完还是拿不准，记住一句口诀：事实用 RAG，行为用微调，先跑通再升级。用最小成本把方案验证到 80 分，比在会议室争论到 100 分更有价值。