谢谢您的订阅!
当新的内容发布后您将开始接收邮件。您也可以点击邮件内的链接随时取消订阅。关闭Close

  1. 博客
  2. 文章

Canonical
11 April 2025


在 2020 年的一篇论文中,Patrick Lewis 和他的研究团队引入了术语 RAG,即检索增强一代。该技术通过利用外部知识来源,如文件和广泛的数据库,增强了生成式 AI 模型。RAG 填补了传统大型语言模型(LLM)中的一个空白。传统的模型依赖于已经包含在其中的静态知识,而 RAG 则结合了最新信息,作为 LLM 的可靠事实来源。虽然 LLM 可以在没有 RAG 的情况下快速理解和响应提示,但它们通常不能提供最新或更具体的信息。

RAG 的一个实际应用是对话代理和聊天机器人。借助 RAG 模型,这些系统能够从外部来源获取上下文相关的信息,从而增强自身性能。这种能力确保客户服务聊天机器人、虚拟助理和其他对话界面在交互过程中提供准确和信息丰富的响应。另一个用例是在高级问答系统中,RAG 模型可帮助个人获得查询的答案,例如支持票证响应。此外,RAG 可用于内容推荐系统,通过检索相关信息提供个性化推荐,以增强用户体验和内容参与度。

使用 RAG 的好处 

构建信任的数据源

将机器学习模型用于企业应用程序(例如聊天机器人)或搜索敏感数据时,RAG 为模型提供可引用的可验证信息。该方法使模型能够专注于不太模糊的背景信息,大大降低了产生错误输出的可能性,这种现象通常被称为“幻象”。

最新信息

使用 RAG,您可以加载最新的可靠数据,确保您的模型将检索到准确的信息。

RAG 的简单性

Lewis 和三位合著者发表了一篇题为《知识密集型 NLP 任务的检索增强生成》的论文,其中他们只用五行代码演示了 RAG。该实施生成了一个模型,包括一个问题编码器、一个检索器和一个生成器,用于生成上下文感知的答案。该实施的简单性表明,RAG 作为一个概念和项目相对容易操作。然而,在生产和大规模部署中,复杂性确实增加了。

降低持续模型重新训练的成本

持续重新训练机器学习模型可能会很昂贵。利用 RAG,不需要依赖于时间密集和昂贵的参数重新训练。这可能降低在企业环境中运行 LLM 驱动的聊天机器人的计算和财务成本。

RAG 的工作原理

当在 AI 聊天机器人中进行查询时,基于 RAG 的系统首先从大型数据集或知识库中检索相关信息,然后这些信息用于通知并指导生成回复。基于 RAG 的系统由两个关键组件组成。第一个组件是检索器,它负责定位有助于回答用户查询的相关信息。它搜索数据库以选择最相关的信息。然后,将该信息提供给第二个组件,即生成器。生成器是一个产生最终输出的大型语言模型。见下图:

在使用基于 RAG 的系统之前,必须首先创建知识库,它由未包含在 LLM 训练数据中的外部数据组成。这些外部数据可能来自不同的来源,包括文档、数据库和 API 调用。大多数 RAG 系统利用一种称为模型嵌入式 AI 技术,将数据转换为数字表示,并将其存储在矢量数据库中。使用嵌入式模型,您可以创建一个在 AI 环境中易于理解和检索的知识模型。在创建知识库并设置矢量数据库后,现在可以执行 RAG 过程;以下是一个概念性流程:

基于 RAG 的系统包含五个简单的步骤:

  1. 您可以通过输入提示或查询来开始操作。 
  2. 检索器用于从知识库中搜索相关信息。通过矢量搜索和数据库功能,可以使用数学矢量计算和表示来确定相关性。 
  3. 检索相关信息来提供增强的上下文,并将其传递给生成器。
  4. 现在使用这些上下文来丰富查询和提示,并准备好使用提示工程技术 (LLM)来扩充,以用于大型语言模型。增强的提示使语言模型能够准确地响应您的查询。
  5. 最后,向您发送生成的文本响应。

Canonical 满足您的 RAG 要求

使用 Canonical RAG workshop 构建正确的 RAG 架构

Canonical 提供为期 5 天的 workshop,旨在帮助您开始构建自己的企业 RAG 系统。在 workshop 结束时,您将对 RAG 和 LLM 理论、架构和最佳实践有一个透彻的理解。我们将共同开发和部署满足您特定需求的解决方案。

下载数据表

了解更多信息并联系我们的团队,以满足您的 RAG 需求。


查看更多内容

Canonical Managed Kubeflow AI 运维平台现已登陆 Microsoft Azure Marketplace

Ubuntu 发行商 Canonical 近日宣布,其 Managed Kubeflow 服务已在 Microsoft Azure Marketplace 正式上线,实现全面商用(GA)。该解决方案允许 AI 团队在自有云租户环境内获得一个完全托管、可直接投入生产的 MLOps 平台。 上游 Kubeflow...

全新工具 Workshop 上线:一条命令即可在 Ubuntu 中启动沙箱开发环境

开发者如今可在智能体 AI 等前沿工作流程中,获得环境统一、可复现的开发体验 Canonical 正式发布 Workshop,该解决方案可通过单条命令快速启动开发环境。只需配置一次,此开发环境即可在多台设备上复现使用。这意味着各类开发设备与部署流水线可保持统一工作流程,并可大幅减少管理依赖关系所花费的时间。...

Canonical 技术案例 – 彻底解决 12 年老旧代码中的 Linux 性能漏洞

部分支持案例处理起来十分简单。另一些案例则要深入老旧遗留代码,一处逻辑缺陷就能悄无声息让常规指令引发严重性能故障。本系列将介绍 Canonical 技术支持与持续工程团队如何协作,排查、修复并向上游提交仅靠常规故障排查无法解决的疑难问题。在第二篇帖子中,libnss-db 中一处存在 12 年之久的漏洞导致 getent...

借助全新 NVIDIA OpenShell Snap,在 Ubuntu 上安全管控 AI 智能体工作流

NVIDIA 发布经过验证的 OpenShell Snap 软件包,用于在 Ubuntu 上安全管控 AI 智能体工作流 Canonical 在 COMPUTEX 宣布与 NVIDIA 达成全新合作,将面向智能体的 NVIDIA OpenShell 运行时直接集成至 Ubuntu 生态系统。Canonical 将 OpenShell 封装为 Snap...