大型语言模型的训练数据有截止日期，无法访问企业私有文档。当你希望 AI 基于你的合同、产品手册或内部知识库来回答问题时，仅靠 LLM 的内置知识是不够的。检索增强生成（Retrieval-Augmented Generation，RAG）是目前解决这一问题最成熟、最广泛部署的架构方案。
## RAG 的工作原理
RAG 系统分为两个主要阶段：
**索引阶段（离线）**：
1. 将文档（PDF、Word、网页、数据库等）分割成小块（Chunks，通常 256-512 tokens）
2. 使用嵌入模型（Embedding Model，如 OpenAI text-embedding-3-small 或开源的 BGE）将每个块转化为高维向量
3. 将向量存入向量数据库（Vector Database）
**检索+生成阶段（在线）**：
1. 将用户问题也转化为向量
2. 在向量数据库中进行语义相似度搜索，找到最相关的文档块（通常 3-10 个）
3. 将检索到的文档块作为上下文，连同用户问题一起发送给 LLM
4. LLM 基于这些上下文生成回答
关键优势：LLM 只需要生成，不需要”记忆”所有内容，减少了幻觉，且可以引用具体来源。
## 主要向量数据库
**Pinecone**：全托管云向量数据库，部署简单，适合快速上线生产环境，但成本随规模增长较快。参见 [pinecone.io](https://pinecone.io)。
**Weaviate**：开源向量数据库，支持混合搜索（向量+关键词），可自托管，社区活跃。
**Chroma**：轻量级开源向量数据库，特别适合本地开发和原型验证，与 LangChain 集成良好。参见 [trychroma.com](https://trychroma.com)。
**Qdrant**：开源，高性能，支持过滤搜索（先过滤再向量搜索），适合需要复杂查询的场景。
**pgvector**：PostgreSQL 扩展，为已有 PostgreSQL 数据库的团队提供了最低迁移成本的向量搜索能力。
**Milvus**：大规模向量数据库，适合十亿量级向量的搜索场景。
## RAG 的常见优化
**Chunk 策略优化**：固定长度分割（简单但上下文可能被截断）、句子/段落分割（更语义完整）、层级分割（先索引章节再索引段落）。
**混合搜索**：结合向量相似度搜索和 BM25 关键词搜索，通常比单一方法效果更好，特别是对于特定术语（产品名、人名）的精确匹配。
**重排序（Re-ranking）**：检索后用更强的排序模型（如 Cohere Rerank 或 BGE-Reranker）对候选文档重新排序，提升精度。
**上下文压缩**：从检索到的文档中提取最相关的句子，减少发送给 LLM 的 token 量，降低成本和提升精度。
## 企业 RAG 实践
RAG 已成为企业 AI 应用最常见的架构：法律公司用 RAG 搜索合同条款；制造企业用 RAG 查询设备手册；医疗机构用 RAG 检索临床指南；客服团队用 RAG 构建知识库问答系统。
Gartner 预测，到 2026 年，超过 80% 的企业生成式 AI 部署将包含某种形式的 RAG 架构。
参见 [LangChain RAG 教程](https://python.langchain.com/docs/use_cases/question_answering/)；[Anthropic AI 应用最佳实践](https://docs.anthropic.com/claude/docs/guided-optimizations)；[RAG 在企业中的应用](https://sunqi.org/ai-agent-workflow-zh/)。
—
