作者： TaskingAI 来源： TaskingAI

检索增强生成（Retrieval-Augmented-Generation，简称RAG）是一种前沿方法，通过将外部数据检索直接整合到生成过程中，增强大型语言模型的能力。这种方法结合了预训练语言模型的强大生成能力和对庞大外部知识库的实时访问能力。在操作过程中，RAG首先根据查询从向量数据库中检索相关文档或数据。然后，这些检索到的信息会指导模型的响应生成，从而丰富其输出的上下文和准确性。

RAG对比Fine-Tuning

RAG和fine-tuning都是通过利用额外信息来增强语言模型的技术。然而，它们在信息的整合和使用方式上存在根本区别。

动态学习与静态学习

RAG通过在推理阶段动态查询外部数据库，能够为每个查询访问和整合最相关和最新的信息。这与fine-tuning形成鲜明对比，fine-tuning将外部数据静态地整合到模型的学习过程中，成为模型参数的一部分。一旦模型经过微调，要让它反映新信息需要额外的训练轮次。

灵活性与可扩展性

RAG的灵活性在于能够整合外部数据库的更新而无需重新训练模型。这在信息频繁更新或实时数据至关重要的情况下尤为有价值。另一方面，fine-tuning需要模型通过新数据重新训练以反映变化，这可能既耗时又耗费资源。

计算效率与成本

在计算需求方面，RAG依赖外部数据库进行检索可能会消耗大量计算资源。然而，这通常被减少频繁重新训练的需求所抵消。向量数据库有助于优化检索过程，从而可能降低运营成本。相比之下，fine-tuning需要一定的的计算资源和专业知识，尤其是在处理大规模数据集或持续更新时，导致更高的成本。

特定应用适应性

RAG通过定制外部数据库实现量身定制的响应，从而根据检索到的特定数据提供有针对性和上下文适宜的输出。fine-tuning虽然有效，但从训练数据中概括出来，可能不完全适应特定的现实场景，除非模型持续更新以适应新的上下文。

TaskingAI中的RAG

TaskingAI有效实现了一种结合长窗口AI模型与基于向量的语义搜索的混合RAG。这一特性旨在通过利用长上下文窗口和复杂的搜索能力来增强信息处理。

这种方法的主要优势在于能够在不改变核心架构的情况下丰富AI的功能。通过将长上下文窗口的扩展记忆与高级搜索功能整合在一起，访问实时数据和专家数据库，TaskingAI能够利用广泛的内部和外部知识来源。

这种组合使模型能够更细致地理解用户意图，并高效地在庞大的数据库中定位相关数据。智能搜索提供的丰富上下文窗口确保了信息不仅相关，而且与用户查询精确匹配。这种能力显著提高了长上下文窗口的整体效力，增强了搜索结果的整合和优化。

TaskingAI的混合特性以其用户友好的界面和稳定的性能脱颖而出，与市场上的其他替代品相比，优势明显。通过创建一个稳健的闭环网络，TaskingAI确保其输出准确、上下文丰富，并且针对特定用户需求量身定制。这种方法强调了TaskingAI致力于提供先进、实用且可靠的AI解决方案，在复杂的信息环境中既易于访问又可信赖。

通过扩展上下文窗口的容量并将其与TaskingAI的高级检索模块结合，该系统能够访问更广泛的文本，潜在地提高信息访问的效率数百倍。为模型性能和效率设定了新的基准。

代码示例

在以下示例中，我们将展示如何使用TaskingAI管理一个RAG（检索增强生成）代理。

准备检索数据源

首先，需要选择一个合适的嵌入模型来执行向量计算。接下来，需要为非结构化数据记录分配存储空间，这个过程在TaskingAI中称为创建collection。

输出结果：collection status: ready

接下来，我们将创建三个主题不同的独特记录：“机器学习”、“迈克尔 乔丹”和“花岗岩”。

这一过程可以根据需要在未来添加更多记录。TaskingAI提供了一个灵活的框架来高效地管理检索任务。

语义搜索

为了评估向量索引在给定集合上的效率，我们可以使用 query_chunks API进行语义搜索。

运行此代码时，结果将是：

正如您所看到的， query_chunks 命令有效地返回了相关内容——正是我们最初存储的信息。此外，您还可以使用其他示例查询进行进一步探索的测试。

带有RAG的助手

这个例子展示了如何创建一个专门的助手，其设计目的是在前面提到的特定领域拥有专业知识。首先，您需要为基础AI模型指定一个聊天完成模型ID。然后为助手配置一个名称、描述、简单的记忆模型以及一个可以从中检索信息的文档集合。

输出结果：

创建了助手之后，我们向它提问。

输出结果：

当您问助手“什么是机器学习？”时，它会从其集合中检索相关信息并提供一个清晰、信息丰富的响应。该响应解释了机器学习是人工智能的一个分支，专注于开发算法，使计算机能够从数据中学习，并基于这些数据做出决策或预测，通过经验自动改进。

请根据您的配置调整模型和检索集成，并探索更多这种助手可能带来好处的场景。

如果你喜欢TaskingAI的话，欢迎：

• 在GitHub上为我们的项目点⭐️，或贡献代码；

• 我们的GitHub项目地址是https://github.com/TaskingAI/TaskingAI；

• 加入我们的官方群聊并向我们提问，或分享你的TaskingAI使用经验。

更多AI工具，参考Github-AiBard123，国内AiBard123