RAG 到底火在哪？

近来的讨论都在关注检索增强生成（Retrieval-Augmented Generation，RAG）对对话式 AI 带来的变革性影响,尤其是在销售助理这种场景中,产品库存和价格的实时信息至关重要。在 Connectly.ai，我们正处于这场创新的前沿,打造了 Sofia AI——一款对话式销售机器人,旨在借助最新信息,达到一位高水平销售人员的表现水准。

本文将深入探讨 RAG 的技术细节,Sofia AI 当前及未来的应用场景,并展望对话式销售 AI 未来的应用前景。

RAG 的技术拆解

RAG 将一个生成模型与一个检索系统结合起来,借助准确、实时的数据来增强 AI 的回答。生成模型通常基于像 GPT 这样先进的 Transformer 架构,生成类人的文本。与此同时,检索系统会动态搜索外部数据库,找到能够补充生成模型输出的相关信息,确保回答既相关又及时。（https://arxiv.org/abs/2005.11401）

RAG 的流程：

1. 查询处理：输入的查询首先由模型处理,以理解其上下文和意图。
2. 检索阶段：模型随后利用这个经过处理的查询,从外部来源检索相关文档或数据片段。这种检索通常是通过在稠密向量空间上使用最大内积搜索（Maximum Inner Product Search，MIPS）等技术来实现的,其中文档已经通过像密集段落检索（Dense Passage Retrieval，DPR）这样的模型预先编码成向量。（https://arxiv.org/abs/2004.04906）
3. 整合阶段：检索到的信息随后与原始查询整合,形成一个新的、经过增强的输入,供生成模型使用。这种整合可以通过多种方式完成,包括简单的拼接,或更复杂的注意力机制,让模型能够权衡不同信息片段的重要性。
4. 生成阶段：生成模型利用这个经过增强的输入生成最终的输出,该输出因检索到的信息而更具事实准确性和具体性。

RAG 如何帮助对话式销售 AI

动态数据整合：受限于静态数据集,传统 AI 系统在准确性和时效性上常常滞后。RAG 引入了一个动态组件,借助实时的外部数据库,确保它提供的每一条信息或推荐的每一个动作,都建立在最新可用数据的基础之上。

场景：一位顾客访问一家时尚电商网站,想为即将到来的活动找一条完美的红色连衣裙。她想要一款时髦的、有她尺码的、并且在特定价格区间内的裙子。

示例：该网站使用 RAG,通过分析社交媒体和时尚博客上的当前流行趋势,动态整理出一系列红色连衣裙,并检查实时库存数据,确保每个选项都有该顾客的尺码现货,甚至还会根据顾客过去的偏好和价格区间调整选择结果。这种方式确保呈现给顾客的红色连衣裙不仅时尚、有货,还符合她的个人品味和预算。

增强的查询解析能力：曾经让早期 AI 模型束手无策的复杂查询,现在已在能力范围之内。RAG 采用了先进的检索机制,从大量来源中获取相关数据,使其能够以此前无法实现的细致理解,拆解并回应多层面的问题。

场景：同一位顾客进一步说明,她想找一条适合半正式晚间活动、由可持续材料制成,并适合娇小体型的红色连衣裙。

示例：借助 RAG,该平台会进行一次复杂的搜索：先从时尚行业标准或博客中确定"半正式晚礰"具体指什么,再通过查阅最新的环保面料数据库,筛选出由可持续材料制成的连衣裙,然后通过对照产品尺寸和尺码指南,确保所选款式适合娇小体型。最终呈现给这位顾客的红色连衣裙,精确符合这些详细的标准,还附带设计师关于如何为晚间活动搭配这条裙子的建议。

市场情报与洞察：RAG 实时获取并分析来自多种来源的数据的能力,使它成为市场分析的强大工具。它让企业能够凭借基于最新数据得出的洞见,灵活应对市场变化,获得难以匹敌的竞争优势。

场景：预见到节假日和特殊场合前后红色连衣裙的季节性需求,零售商希望优化库存。

示例：通过分析过去销售对话、搜索引擎查询以及即将到来的时尚活动数据,该销售 AI 平台预测红色连衣裙的需求将上升。借助 RAG,它进一步细化策略,识别出该零售商目标客群中最受欢迎的款式、首选材质和价格区间。随后,该销售 AI 平台会将这一即将到来的需求信息告知零售商的采购部门。这种主动出击的方式,不仅满足了客户需求,也让这款销售 AI 成为红色连衣裙最新潮流的首选目的地。

未来演进之路

RAG 标志着 AI 能力的一次重大进步,尤其是在销售领域,信息的准确性和及时性至关重要。尽管数据相关性、计算成本和外部知识偏差等潜在挑战依然存在,但 AI 技术的快速发展和成本下降,为曾被认为不切实际的应用打开了新的可能性。

基础模型的持续改进,有望大幅提升个性化程度和上下文理解能力,为对话式销售 AI 开启一个令人期待的未来。

在我们继续以 Sofia AI 引领这一领域的过程中,RAG 在重塑客户互动和销售商业智能方面的潜力是巨大的。我很期待未来会带来什么。