¿Cuál es el furor con RAG?

Las discusiones recientes se han centrado en el impacto transformador de la Generación Aumentada por Recuperación (RAG) en la IA conversacional, particularmente para asistentes de ventas donde la información en tiempo real sobre disponibilidad de productos y precios es crucial. En Connectly.ai, estamos a la vanguardia de esta innovación con el desarrollo de Sofia AI, un bot de ventas conversacional diseñado para igualar el rendimiento de un vendedor altamente calificado aprovechando información actualizada.

Este artículo profundiza en los matices técnicos de RAG, los casos de uso actuales y futuros dentro de Sofia AI, y visualiza las futuras aplicaciones de las IA de ventas conversacionales.

El desglose técnico de RAG

RAG combina un modelo generativo con un sistema de recuperación para mejorar las respuestas de la IA con datos precisos y actuales. El modelo generativo, típicamente basado en arquitecturas transformer avanzadas como GPT, genera texto similar al humano. En paralelo, el sistema de recuperación busca dinámicamente en bases de datos externas para encontrar información relevante que complemente la salida del modelo generativo, asegurando que las respuestas sean tanto relevantes como oportunas. (https://arxiv.org/abs/2005.11401)

Flujo del proceso en RAG:

1. Procesamiento de la consulta: una consulta de entrada primero es procesada por el modelo para entender el contexto y la intención.
2. Fase de recuperación: el modelo luego usa esta consulta procesada para recuperar documentos relevantes o fragmentos de datos de una fuente externa. Esta recuperación típicamente se logra mediante técnicas como la Búsqueda de Máximo Producto Interno (MIPS) sobre un espacio vectorial denso, donde los documentos han sido pre-codificados en vectores usando modelos como Dense Passage Retrieval (DPR). (https://arxiv.org/abs/2004.04906)
3. Fase de integración: la información recuperada luego se integra con la consulta original para formar una nueva entrada aumentada para el modelo generativo. Esta integración se puede hacer de varias maneras, incluyendo concatenación simple o mecanismos de atención más complejos que permiten al modelo ponderar la importancia de diferentes piezas de información.
4. Fase de generación: el modelo generativo usa esta entrada aumentada para producir una salida final, que está enriquecida con la precisión factual y especificidad de la información recuperada.

Cómo ayuda RAG a las IA de ventas conversacionales

Integración dinámica de datos: los sistemas de IA tradicionales, limitados por sus datasets estáticos, a menudo se rezagaban en precisión y oportunidad. RAG introduce un componente dinámico, aprovechando bases de datos externas en tiempo real para asegurar que cada pieza de información que proporciona o acción que recomienda esté fundamentada en los datos más recientes disponibles.

Escenario: un cliente visita un sitio de e-commerce de moda, buscando el vestido rojo perfecto para un evento próximo. Quiere algo a la moda, disponible en su talla, y dentro de un rango de precio específico.

Ejemplo: el sitio usa RAG para curar dinámicamente una colección de vestidos rojos, analizando las tendencias de moda actuales en redes sociales y blogs de moda, verificando datos de inventario en tiempo real para asegurar que cada opción esté disponible en la talla del cliente, e incluso ajustando la selección según las preferencias pasadas del cliente y su rango de precio. Este enfoque asegura que al cliente se le presente una selección de vestidos rojos que no solo son elegantes y están disponibles, sino que también están personalizados a sus gustos y presupuesto.

Resolución mejorada de consultas: las consultas complejas que dejarían perplejos a los modelos de IA anteriores ahora están dentro del alcance. RAG emplea mecanismos de recuperación sofisticados para obtener datos relevantes de una miríada de fuentes, permitiéndole desglosar y responder preguntas multifacéticas con una comprensión matizada antes inalcanzable.

Escenario: el mismo cliente especifica que está buscando un vestido rojo adecuado para un evento nocturno semiformal, hecho de materiales sostenibles y diseñado para ajustarse a una figura petite.

Ejemplo: aprovechando RAG, la plataforma realiza una búsqueda sofisticada, primero identificando qué constituye "ropa de noche semiformal" según los estándares de la industria de la moda o blogs, filtrando vestidos hechos de materiales sostenibles al consultar las bases de datos más recientes sobre telas ecológicas, y luego asegurando que las selecciones estén adaptadas a tallas petite cruzando las dimensiones del producto con guías de tallas. Al cliente se le presentan entonces vestidos rojos que cumplen precisamente con estos criterios detallados, incluyendo información de diseñadores sobre cómo combinar el vestido para un evento nocturno.

Inteligencia e insights de mercado: la capacidad de RAG para extraer y analizar datos de diversas fuentes en tiempo real lo transforma en una poderosa herramienta para el análisis de mercado. Equipa a los negocios con la agilidad para adaptarse a los cambios del mercado con insights derivados de los datos más actuales, ofreciendo una ventaja competitiva difícil de igualar.

Escenario: anticipando la demanda estacional de vestidos rojos, especialmente alrededor de festividades y ocasiones especiales, el minorista busca optimizar su inventario.

Ejemplo: al analizar datos de conversaciones de ventas pasadas, consultas de motores de búsqueda y próximos eventos de moda, la plataforma de IA de ventas predice un aumento en la demanda de vestidos rojos. Usando RAG, refina aún más su estrategia identificando los estilos más buscados, los materiales preferidos y los puntos de precio entre la audiencia del minorista. La plataforma de IA de ventas luego informa al departamento de adquisiciones del minorista sobre la demanda próxima. Este enfoque proactivo no solo satisface la demanda del cliente, sino que también posiciona a la IA de ventas como un destino de referencia para lo último en moda de vestidos rojos.

El camino evolutivo hacia adelante

RAG marca un avance significativo en las capacidades de la IA, especialmente en ventas, donde la precisión y la oportunidad de la información son críticas. Aunque reconocemos desafíos potenciales como la relevancia de los datos, los costos computacionales y los sesgos del conocimiento externo, el rápido desarrollo y la reducción de costos en la tecnología de IA abren nuevas posibilidades para aplicaciones que antes se consideraban poco prácticas.

La mejora continua de los modelos fundacionales promete mejorar significativamente la personalización y la comprensión contextual, anunciando un futuro emocionante para las IA de ventas conversacionales.

Mientras seguimos siendo pioneros en este espacio con Sofia AI, el potencial de RAG para revolucionar la interacción con el cliente y la inteligencia de negocios en ventas es inmenso. Espero con interés lo que traerá el futuro.