Potencia RAG de alto rendimiento para GenAI con HPE Alletra Storage MP + Milvus

Este artículo se publicó originalmente en HPE Community y se vuelve a publicar aquí con permiso.

HPE Alletra Storage MP X10000 y Milvus potencian la RAG escalable y de baja latencia, lo que permite a los LLM ofrecer respuestas precisas y ricas en contexto con búsqueda vectorial de alto rendimiento para cargas de trabajo de GenAI.

En la IA generativa, RAG necesita algo más que un LLM

El contexto libera la verdadera potencia de la IA generativa (GenAI) y los grandes modelos lingüísticos (LLM). Cuando un LLM dispone de las señales adecuadas para orientar sus respuestas, puede ofrecer respuestas precisas, relevantes y fiables.

Piénsalo así: si te dejaran caer en una densa jungla con un dispositivo GPS pero sin señal de satélite. La pantalla muestra un mapa, pero sin tu posición actual, es inútil para la navegación. Por el contrario, un GPS con una señal de satélite potente no sólo muestra un mapa, sino que te orienta giro a giro.

Eso es lo que hace la generación aumentada por recuperación (RAG) con los LLM. El modelo ya tiene el mapa (su conocimiento preentrenado), pero no la dirección (los datos específicos de su dominio). Los LLM sin RAG son como dispositivos GPS llenos de conocimientos pero sin orientación en tiempo real. La GAR proporciona la señal que indica al modelo dónde se encuentra y hacia dónde debe dirigirse.

RAG fundamenta las respuestas del modelo en conocimientos actualizados y de confianza extraídos de su propio contenido específico del dominio, como políticas, documentos de productos, tickets, PDF, código, transcripciones de audio, imágenes y mucho más. Conseguir que RAG funcione a gran escala es todo un reto. El proceso de recuperación debe ser lo suficientemente rápido como para que la experiencia del usuario sea fluida, lo suficientemente preciso como para devolver la información más relevante y predecible incluso cuando el sistema está sometido a una gran carga. Esto significa gestionar grandes volúmenes de consultas, la ingesta continua de datos y las tareas en segundo plano, como la creación de índices, sin degradar el rendimiento. Poner en marcha una canalización RAG con unos pocos archivos PDF es relativamente sencillo. Sin embargo, cuando se amplía a cientos de archivos PDF, se vuelve mucho más difícil. No se puede mantener todo en la memoria, por lo que una estrategia de almacenamiento sólida y eficaz se convierte en esencial para gestionar las incrustaciones, los índices y el rendimiento de la recuperación. RAG requiere una base de datos vectorial y una capa de almacenamiento que pueda mantener el ritmo a medida que crecen la concurrencia y los volúmenes de datos.

Las bases de datos vectoriales impulsan RAG

La base de la RAG es la búsqueda semántica, es decir, encontrar información por su significado y no por palabras clave exactas. Aquí es donde entran en juego las bases de datos vectoriales. Almacenan incrustaciones de texto, imágenes y otros datos no estructurados, lo que permite una búsqueda por similitud que recupera el contexto más relevante para las consultas. Milvus es un ejemplo destacado: una base de datos vectorial de código abierto y nativa en la nube creada para la búsqueda de similitudes a escala de miles de millones. Admite la búsqueda híbrida, combinando la similitud vectorial con filtros de palabras clave y escalares para mayor precisión, y ofrece escalado independiente de computación y almacenamiento con opciones de optimización conscientes de la GPU para aceleración. Milvus también gestiona los datos a través de un ciclo de vida de segmento inteligente, pasando de segmentos crecientes a segmentos sellados con compactación y múltiples opciones de indexación de vecino más cercano aproximado (RNA) como HNSW y DiskANN, garantizando el rendimiento y la escalabilidad para cargas de trabajo de IA en tiempo real como RAG.

El reto oculto: rendimiento y latencia del almacenamiento

Las cargas de trabajo de búsqueda vectorial ejercen presión sobre todas las partes del sistema. Exigen una ingestión de alta concurrencia al tiempo que mantienen una recuperación de baja latencia para las consultas interactivas. Al mismo tiempo, las operaciones en segundo plano, como la creación de índices, la compactación y la recarga de datos, deben ejecutarse sin interrumpir el rendimiento en tiempo real. Muchos cuellos de botella en el rendimiento de las arquitecturas tradicionales tienen su origen en el almacenamiento. Ya sean limitaciones de entrada/salida (E/S), retrasos en la búsqueda de metadatos o restricciones de concurrencia. Para ofrecer un rendimiento predecible y en tiempo real a gran escala, la capa de almacenamiento debe seguir el ritmo de las exigencias de las bases de datos vectoriales.

La base de almacenamiento para la búsqueda vectorial de alto rendimiento

HPE Alletra Storage MP X10000 es una plataforma de almacenamiento de objetos optimizada para flash, totalmente NVMe y compatible con S3, diseñada para un rendimiento en tiempo real a escala. A diferencia de los almacenes de objetos tradicionales centrados en la capacidad, HPE Alletra Storage MP X10000 está diseñado para cargas de trabajo de baja latencia y alto rendimiento como la búsqueda vectorial. Su motor de clave-valor con estructura de registro y metadatos basados en extensión permiten lecturas y escrituras altamente paralelas, mientras que GPUDirect RDMA proporciona rutas de datos sin copia que reducen la sobrecarga de la CPU y aceleran el movimiento de datos a las GPU. La arquitectura admite el escalado desagregado, lo que permite que la capacidad y el rendimiento crezcan de forma independiente, e incluye funciones de nivel empresarial como el cifrado, el control de acceso basado en roles (RBAC), la inmutabilidad y la durabilidad de los datos. Combinado con su diseño nativo de la nube, HPE Alletra Storage MP X10000 se integra perfectamente con entornos Kubernetes, lo que lo convierte en una base de almacenamiento ideal para implementaciones Milvus.

HPE Alletra Storage MP X10000 y Milvus: una base escalable para RAG

HPE Alletra Storage MP X10000 y Milvus se complementan para ofrecer una RAG rápida, predecible y fácil de escalar. La Figura 1 ilustra la arquitectura de casos de uso de IA escalables y canalizaciones de RAG, mostrando cómo los componentes de Milvus desplegados en un entorno en contenedores interactúan con el almacenamiento de objetos de alto rendimiento de HPE Alletra Storage MP X10000.

Milvus separa limpiamente la computación del almacenamiento, mientras que HPE Alletra Storage MP X10000 proporciona un acceso a objetos de alto rendimiento y baja latencia que sigue el ritmo de las cargas de trabajo vectoriales. Juntos, permiten un rendimiento de escalabilidad horizontal predecible: Milvus distribuye las consultas entre los fragmentos y el escalado multidimensional fraccional de HPE Alletra Storage MP X10000 mantiene la latencia constante a medida que crecen los datos y los QPS. En términos sencillos, puedes añadir exactamente la capacidad o el rendimiento que necesites, cuando lo necesites. La simplicidad operativa es otra ventaja: HPE Alletra Storage MP X10000 mantiene el máximo rendimiento desde un único bucket, eliminando la compleja organización en niveles, mientras que las funciones empresariales (cifrado, RBAC, inmutabilidad, durabilidad robusta) admiten implementaciones locales o híbridas con una sólida soberanía de datos y objetivos de nivel de servicio (SLO) coherentes.

Cuando se amplía la búsqueda vectorial, a menudo se culpa al almacenamiento de la lentitud de la ingesta, la compactación o la recuperación. Con Milvus en HPE Alletra Storage MP X10000, esa narrativa cambia. La arquitectura completamente NVMe y estructurada en registros de la plataforma y la opción GPUDirect RDMA ofrecen un acceso a objetos coherente y de latencia ultrabaja, incluso con mucha concurrencia y durante las operaciones del ciclo de vida, como la creación y recarga de índices. En la práctica, sus canalizaciones RAG siguen estando vinculadas al cálculo, no al almacenamiento. A medida que las colecciones crecen y los volúmenes de consulta aumentan, Milvus mantiene la capacidad de respuesta mientras HPE Alletra Storage MP X10000 conserva el espacio de E/S, lo que permite una escalabilidad predecible y lineal sin necesidad de rediseñar el almacenamiento. Esto es especialmente importante a medida que las implementaciones de RAG superan las fases iniciales de prueba de concepto y pasan a la producción completa.

RAG preparado para la empresa: escalable, predecible y diseñado para GenAI

Para las cargas de trabajo de RAG y GenAI en tiempo real, la combinación de HPE Alletra Storage MP X10000 y Milvus ofrece una base preparada para el futuro que se escala con confianza. Esta solución integrada permite a las organizaciones crear sistemas inteligentes que son rápidos, elásticos y seguros, sin comprometer el rendimiento ni la capacidad de gestión. Milvus proporciona búsqueda vectorial distribuida y acelerada por GPU con escalado modular, mientras que HPE Alletra Storage MP X10000 garantiza un acceso a objetos ultrarrápido y de baja latencia con durabilidad y gestión del ciclo de vida de nivel empresarial. Juntos, desacoplan la computación del almacenamiento, permitiendo un rendimiento predecible incluso cuando los volúmenes de datos y la complejidad de las consultas crecen. Ya se trate de recomendaciones en tiempo real, búsqueda semántica o escalado de miles de millones de vectores, esta arquitectura mantiene sus canalizaciones RAG con capacidad de respuesta, rentables y optimizadas para la nube. Con una integración perfecta en Kubernetes y la nube HPE GreenLake, obtienes una gestión unificada, precios basados en el consumo y la flexibilidad de implementar en entornos de nube híbrida o privada. HPE Alletra Storage MP X10000 y Milvus: una solución RAG escalable y de alto rendimiento creada para las demandas de la GenAI moderna.