Qual é o alvoroço em torno do RAG?

As discussões recentes têm girado em torno do impacto transformador do Retrieval-Augmented Generation (RAG) na IA conversacional, especialmente para assistentes de vendas, nos quais informações em tempo real sobre disponibilidade de produtos e preços são cruciais. Na Connectly.ai, estamos na vanguarda dessa inovação com o desenvolvimento do Sofia AI, um bot conversacional de vendas projetado para igualar o desempenho de um vendedor altamente qualificado, aproveitando informações atualizadas.

Este artigo se aprofunda nas nuances técnicas do RAG, nos casos de uso atuais e futuros dentro do Sofia AI, e imagina as futuras aplicações das IAs conversacionais de vendas.

O detalhamento técnico do RAG

O RAG combina um modelo generativo com um sistema de recuperação para enriquecer as respostas da IA com dados precisos e atuais. O modelo generativo, geralmente baseado em arquiteturas transformer avançadas como o GPT, gera texto com aparência humana. Em paralelo, o sistema de recuperação busca dinamicamente em bases de dados externas para encontrar informações relevantes que complementam a saída do modelo generativo, garantindo respostas relevantes e atuais. (https://arxiv.org/abs/2005.11401)

Fluxo de processo no RAG:

1. Processamento da consulta: uma consulta de entrada é primeiro processada pelo modelo para entender o contexto e a intenção.
2. Fase de recuperação: o modelo então usa essa consulta processada para recuperar documentos ou trechos de dados relevantes de uma fonte externa. Essa recuperação normalmente é feita por meio de técnicas como Maximum Inner Product Search (MIPS) sobre um espaço vetorial denso, no qual os documentos foram previamente codificados em vetores usando modelos como o Dense Passage Retrieval (DPR). (https://arxiv.org/abs/2004.04906)
3. Fase de integração: a informação recuperada é então integrada à consulta original para formar uma nova entrada, aumentada, para o modelo generativo. Essa integração pode ser feita de várias formas, incluindo simples concatenação ou mecanismos de atenção mais complexos que permitem ao modelo ponderar a importância de diferentes pedaços de informação.
4. Fase de geração: o modelo generativo usa essa entrada aumentada para produzir uma saída final, enriquecida com a precisão factual e a especificidade da informação recuperada.

Como o RAG ajuda as IAs conversacionais de vendas

Integração dinâmica de dados: sistemas de IA tradicionais, limitados por seus datasets estáticos, muitas vezes ficavam atrás em precisão e atualidade. O RAG introduz um componente dinâmico, aproveitando bases de dados externas em tempo real para garantir que cada informação fornecida ou ação recomendada seja fundamentada nos dados mais recentes disponíveis.

Cenário: um cliente visita um site de e-commerce de moda, procurando o vestido vermelho perfeito para um evento que está chegando. Ele quer algo na moda, disponível no seu tamanho e dentro de uma faixa de preço específica.

Exemplo: o site usa o RAG para organizar dinamicamente uma coleção de vestidos vermelhos, analisando tendências atuais de moda em redes sociais e blogs de moda, verificando dados de estoque em tempo real para garantir que cada opção esteja disponível no tamanho do cliente, e até ajustando a seleção com base nas preferências passadas e na faixa de preço do cliente. Essa abordagem garante que o cliente veja uma seleção de vestidos vermelhos que não só são estilosos e disponíveis, mas também personalizados ao seu gosto e orçamento.

Resolução aprimorada de consultas: consultas complexas que confundiriam modelos de IA anteriores agora estão dentro do alcance. O RAG emprega mecanismos sofisticados de recuperação para buscar dados relevantes em uma miríade de fontes, permitindo que ele analise e responda a perguntas multifacetadas com uma compreensão detalhada antes inatingível.

Cenário: o mesmo cliente especifica que está procurando um vestido vermelho adequado para um evento noturno semiformal, feito de materiais sustentáveis e desenhado para caber em um corpo pequeno (petite).

Exemplo: aproveitando o RAG, a plataforma realiza uma busca sofisticada, primeiro identificando o que constitui "traje noturno semiformal" a partir de padrões da indústria da moda ou blogs, filtrando vestidos feitos de materiais sustentáveis ao consultar as bases de dados mais recentes sobre tecidos ecológicos, e então garantindo que as seleções sejam adequadas a tamanhos petite ao cruzar as dimensões dos produtos com guias de tamanho. O cliente recebe então vestidos vermelhos que atendem precisamente a esses critérios detalhados, incluindo dicas de estilistas sobre como usar o vestido para um evento noturno.

Inteligência e insights de mercado: a capacidade do RAG de trazer e analisar dados de diversas fontes em tempo real o transforma em uma ferramenta poderosa para análise de mercado. Ele equipa as empresas com a agilidade para se adaptar às mudanças de mercado com insights derivados dos dados mais atuais, oferecendo uma vantagem competitiva difícil de igualar.

Cenário: antecipando a demanda sazonal por vestidos vermelhos, especialmente perto de feriados e ocasiões especiais, o varejista busca otimizar seu estoque.

Exemplo: ao analisar dados de conversas de vendas anteriores, consultas em mecanismos de busca e próximos eventos de moda, a plataforma de Sales AI prevê um aumento na demanda por vestidos vermelhos. Usando o RAG, ela refina ainda mais sua estratégia, identificando os estilos mais procurados, materiais preferidos e faixas de preço entre o público do varejista. A plataforma de Sales AI então informa o departamento de compras do varejista sobre a demanda futura. Essa abordagem proativa não apenas atende à demanda do cliente, mas também posiciona a Sales AI como referência no que há de mais atual em moda de vestidos vermelhos.

O caminho evolutivo a seguir

O RAG marca um avanço significativo nas capacidades de IA, especialmente em vendas, onde a precisão e a atualidade da informação são críticas. Embora reconhecendo desafios potenciais como relevância dos dados, custos computacionais e viés do conhecimento externo, o rápido desenvolvimento e a redução de custo na tecnologia de IA abrem novas possibilidades para aplicações antes consideradas inviáveis.

A melhoria contínua dos modelos fundacionais promete aprimorar significativamente a personalização e a compreensão contextual, anunciando um futuro empolgante para as IAs conversacionais de vendas.

Conforme continuamos a pioneirar esse espaço com o Sofia AI, o potencial do RAG para revolucionar a interação com o cliente e a inteligência de negócios em vendas é imenso. Estou ansioso para ver o que o futuro reserva.