以下列出了构建和优化 RAG 系统时常用的工具与框架，按类别简要说明其特点与适用场景，供选型时快速参考。
1. 大语言模型（LLM）API
| 工具/服务 | 特点与适用场景 |
|-----------|----------------|
| OpenAI (GPT-4, GPT-3.5) | 综合能力强，生成质量高，API 稳定，适合快速验证和生产部署。成本相对较高，需注意数据合规性。 |
| Anthropic Claude | 上下文窗口长（可达 200K），安全性强，适合长文档分析、合同审查等场景。 |
| Google Gemini | 原生多模态支持（文本、图片、音频），适合需要跨模态理解的场景。 |
| 开源模型 (Llama 3, Qwen, DeepSeek 等) | 可私有化部署，数据不出域，适合对安全、成本有严格要求的企业。需自行搭建推理服务。 |
| 国产云端模型 (通义千问、文心一言、Moonshot 等) | 国内访问便捷，通过备案可直接使用，支持中文场景深度优化。 |
2. 嵌入模型（Embedding Models）
| 模型/服务 | 维度 | 特点与适用场景 |
|-----------|------|----------------|
| OpenAI text-embedding-3-large | 3072 | 通用性强，支持多语言，检索效果优秀，适合商业项目快速启动。成本较高。 |
| OpenAI text-embedding-3-small | 1536 | 性价比高，准确率略有下降但速度更快，适合大规模索引或成本敏感场景。 |
| BGE (BAAI General Embedding) | 768/1024 | 中文领域表现突出，完全开源可本地部署，适合中文为主的知识库。 |
| Jina Embeddings v2 | 768/1024 | 支持多语言及长文本（8K token），适合长文档切片较粗的场景。 |
| Cohere Embed | 1024/4096 | 多语言支持好，检索质量稳定，适合国际化应用。 |
3. 向量数据库（Vector Database）
| 数据库 | 特点与适用场景 |
|--------|----------------|
| Pinecone | 全托管服务，易用性极高，运维成本接近零。适合中小团队快速上线，大规模时成本需评估。 |
| Weaviate | 开源、支持混合搜索（向量+关键词），内置多种向量化模块，适合需要丰富检索策略的场景。 |
| Milvus | 高性能分布式架构，可承载十亿级向量，社区活跃。适合大规模企业部署，需要一定运维能力。 |
| Qdrant | 基于 Rust 实现，性能优异，支持过滤、分组等高级操作。适合对响应速度要求高的场景。 |
| Chroma | 轻量级，安装即用，适合原型开发和小规模知识库。易集成于 LangChain/LlamaIndex。 |
| pgvector (PostgreSQL 扩展) | 无需引入新系统，复用现有 PostgreSQL 基础设施，适合向量规模不大且希望简化架构的团队。 |
4. RAG 应用框架
| 框架 | 特点与适用场景 |
|------|----------------|
| LangChain | 功能全面，生态丰富，抽象程度高。适合需要复杂链式调用、多数据源集成的项目。学习曲线中等。 |
| LlamaIndex | 专注于数据索引与检索，提供丰富的解析器、优化器。适合以文档为中心的问答系统构建。 |
| Dify | 低代码可视化平台，支持拖拽搭建 RAG 应用，内置数据管理、效果评估。适合业务人员或无开发团队的项目。 |
| RAGFlow | 专注于深度文档理解，支持复杂 PDF 表格、图像中的文字抽取，适合处理结构化/半结构化文档。 |
| Haystack | 开源、模块化，Pipeline 设计灵活，适合需要高度定制的生产级检索系统。 |
5. 文档解析与预处理工具
| 工具 | 适用场景 |
|------|----------|
| Unstructured | 支持 PDF、Word、PPT、HTML、图片等多种格式，能提取表格、标题等结构化信息。适合非纯文本场景。 |
| LlamaParse | LlamaIndex 的子项目，专门优化复杂 PDF 的解析，对表格、多栏布局效果突出。 |
| PyMuPDF | 轻量高效的 PDF 处理库，适合纯文本抽取和页码标注。 |
| Tesseract OCR | 开源 OCR 引擎，用于扫描件或图片型 PDF 的文字识别。 |
| Azure AI Document Intelligence | 云端文档理解服务，支持发票、合同等特定模板的字段级抽取。适合自动化表单处理。 |
6. 检索优化与评估工具
| 工具/库 | 功能 |
|---------|------|
| Ragas | RAG 系统评估框架，提供答案相关性、忠实度、上下文精度等指标，帮助量化优化效果。 |
| TruLens | 提供 RAG 应用的可观测性与反馈功能，支持进度跟踪和调试。 |
| Reranker (Cohere/BGE-Reranker) | 对粗检索结果进行精细重排序，提升最终进入模型的片段质量。 |
选型提示：没有“最好”的工具，只有最适合当前阶段的选择。原型阶段可优先使用全托管服务和轻量框架快速验证；进入生产后，再逐步替换为性能更强、可控度更高的开源或自部署方案。始终以评分指标和真实用户反馈为驱动，避免过早陷入技术选型的过度优化。