BedrockCompatible with Milvus 2.6.x

Este tema describe cómo configurar y utilizar las funciones de incrustación de Amazon Bedrock en Milvus.

Elegir un modelo de incrustación

Milvus soporta modelos de incrustación proporcionados por Amazon Bedrock. A continuación se muestran los modelos de incrustación disponibles actualmente como referencia rápida:

Nombre del modelo	Dimensiones	Fichas máximas	Descripción
amazon.titan-incrustar-texto-v2:0	1.024 (por defecto), 512, 256	8,192	RAG, búsqueda de documentos, reordenación, clasificación, etc.

Para obtener más información, consulte Modelos de incrustación de texto de Amazon Titan.

Configurar credenciales

Milvus debe conocer sus credenciales de acceso a Bedrock antes de poder solicitar incrustaciones. Milvus proporciona dos métodos para configurar las credenciales:

• Archivo de configuración (recomendado): Almacene las credenciales en milvus.yaml para que cada reinicio y nodo las recoja automáticamente.

• Variables de entorno: Inyectar las credenciales en el momento del despliegue, ideal para Docker Compose.

Elija uno de los dos métodos siguientes: el archivo de configuración es más fácil de mantener en máquinas virtuales y máquinas sin infraestructura, mientras que la ruta de las variables de entorno se adapta a los flujos de trabajo de los contenedores.

Opción 1: Archivo de configuración (recomendado y de mayor prioridad)

Mantenga sus credenciales en milvus.yaml; Milvus las lee al inicio y anula cualquier variable de entorno para el mismo proveedor.

1. **Declare sus credenciales en credential:

   Puedes listar una o muchas credenciales - dale a cada una una etiqueta que inventes y a la que harás referencia más tarde.

   # milvus.yaml
   credential:
     aksk_dev:            # dev environment
       access_key_id: <YOUR_DEV_ACCESS_KEY_ID>
       secret_access_key: <YOUR_DEV_SECRET_ACCESS_KEY>
     aksk_prod:           # production environment
       access_key_id: <YOUR_PROD_ACCESS_KEY_ID>    
       secret_access_key: <YOUR_PROD_SECRET_ACCESS_KEY>
   

   Poner las credenciales aquí las hace persistentes a través de reinicios y le permite cambiar credenciales simplemente cambiando una etiqueta.

2. Indique a Milvus qué credencial debe utilizar para las llamadas de servicio

   En el mismo archivo, indique al proveedor Bedrock la etiqueta que desea que utilice.

   function:
     textEmbedding:
       providers:
         bedrock:
           credential: aksk_dev      # ← choose any label you defined above
   

   Esto vincula una credencial específica a cada solicitud que Milvus envía al servicio de incrustación de Bedrock.

Opción 2: Variable de entorno

Utilice este método cuando ejecute Milvus con Docker Compose y prefiera mantener los secretos fuera de los archivos e imágenes.

Milvus recurre a la variable de entorno sólo si no se encuentra ninguna credencial para el proveedor en milvus.yaml.

Variable	Requerida	Descripción
MILVUSAI_BEDROCK_ACCESS_KEY_ID	Sí	Su ID de clave de acceso de AWS utilizado para la autenticación con el servicio Bedrock.
MILVUSAI_BEDROCK_SECRET_ACCESS_KEY	Sí	Su clave de acceso secreta de AWS correspondiente a su ID de clave de acceso.

En su archivo docker-compose.yaml, establezca la variable de entorno MILVUSAI_OPENAI_API_KEY.

# docker-compose.yaml (standalone service section)
standalone:
  # ... other configurations ...
  environment:
    # ... other environment variables ...
    # Set the environment variable pointing to the Bedrock embedding service inside the container
    MILVUSAI_BEDROCK_ACCESS_KEY_ID: <MILVUSAI_BEDROCK_ACCESS_KEY_ID>
    MILVUSAI_BEDROCK_SECRET_ACCESS_KEY: <MILVUSAI_BEDROCK_SECRET_ACCESS_KEY>

El bloque environment: inyecta la clave sólo en el contenedor Milvus, dejando su sistema operativo anfitrión intacto. Para más detalles, consulte Configurar Milvus con Docker Compose.

Utilizar la función de incrustación

Una vez configuradas las credenciales, siga estos pasos para definir y utilizar las funciones de incrustación.

Paso 1: Definir campos de esquema

Para utilizar una función de incrustación, cree una colección con un esquema específico. Este esquema debe incluir al menos tres campos necesarios:

• El campo primario que identifica de forma única a cada entidad de una colección.

• Un campo escalar que almacena los datos brutos que se van a incrustar.

• Un campo vectorial reservado para almacenar las incrustaciones vectoriales que la función generará para el campo escalar.

El siguiente ejemplo define un esquema con un campo escalar "document" para almacenar datos textuales y un campo vectorial "dense" para almacenar las incrustaciones que generará el módulo Función. Recuerde ajustar la dimensión del vector (dim) para que coincida con la salida del modelo de incrustación elegido.

from pymilvus import MilvusClient, DataType, Function, FunctionType

# Initialize Milvus client
client = MilvusClient(
    uri="http://localhost:19530",
)

# Create a new schema for the collection
schema = client.create_schema()

# Add primary field "id"
schema.add_field("id", DataType.INT64, is_primary=True, auto_id=False)

# Add scalar field "document" for storing textual data
schema.add_field("document", DataType.VARCHAR, max_length=9000)

# Add vector field "dense" for storing embeddings.
# IMPORTANT: Set dim to match the exact output dimension of the embedding model.
schema.add_field("dense", DataType.FLOAT_VECTOR, dim=1024)

Paso 2: Añadir la función al esquema

El módulo Function de Milvus convierte automáticamente los datos brutos almacenados en un campo escalar en incrustaciones y los almacena en el campo vectorial definido explícitamente.

El ejemplo siguiente añade un módulo Function (bedrk) que convierte el campo escalar "document" en incrustaciones, almacenando los vectores resultantes en el campo vectorial "dense" definido anteriormente.

Una vez que haya definido su función de incrustación, añádala a su esquema de colección. Esto indica a Milvus que utilice la función de incrustación especificada para procesar y almacenar las incrustaciones de sus datos de texto.

# Define embedding function specifically for OpenAI provider
text_embedding_function = Function(
    name="bedrk",                                   # Unique identifier for this embedding function
    function_type=FunctionType.TEXTEMBEDDING,       # Indicates a text embedding function
    input_field_names=["document"],                 # Scalar field(s) containing text data to embed
    output_field_names=["dense"],                   # Vector field(s) for storing embeddings
    params={                                      # Provider-specific embedding parameters (function-level)
        "provider": "bedrock",                      # Must be set to "bedrock"
        "model_name": "amazon.titan-embed-text-v2:0",    # Specifies the embedding model to use
        "region": "us-east-2",                           # Required: AWS region where the Bedrock service is hosted     
        # Optional parameters:
        # "credential": "aksk_dev",               # Optional: Credential label specified in milvus.yaml
        # "dim": "1024",                          # Output dimension of the vector embeddings after truncation
        # "normalize": "true",                    # Whether to normalize the output embeddings
    }
)

# Add the configured embedding function to your existing collection schema
schema.add_function(text_embedding_function)

Pasos siguientes

Después de configurar la función de incrustación, consulte la Descripción general de la función para obtener orientación adicional sobre la configuración del índice, ejemplos de inserción de datos y operaciones de búsqueda semántica.