CohereCompatible with Milvus 2.6.x

Este tema describe cómo configurar y utilizar las funciones de incrustación Cohere en Milvus.

Elija un modelo de incrustación

Milvus soporta modelos de incrustación provistos por Cohere. A continuación se muestran los modelos de incrustación disponibles actualmente para una referencia rápida:

Nombre del Modelo	Dimensiones	Número máximo de fichas	Descripción
embed-english-v3.0	1,024	512	Modelo que permite clasificar texto o convertirlo en incrustaciones. Sólo en inglés.
embed-multilingual-v3.0	1,024	512	Proporciona clasificación multilingüe y soporte de incrustación. Consulte aquí los idiomas admitidos.
embed-english-light-v3.0	384	512	Una versión más pequeña y más rápida de embed-english-v3.0. Casi tan capaz, pero mucho más rápido. Sólo en inglés.
embed-multilingual-light-v3.0	384	512	Una versión más pequeña y rápida de embed-multilingual-v3.0. Casi igual de potente, pero mucho más rápida. Admite varios idiomas.
embed-english-v2.0	4,096	512	Modelo de incrustación más antiguo que permite clasificar texto o convertirlo en incrustación. Sólo en inglés.
embed-english-light-v2.0	1,024	512	Una versión más pequeña y rápida de embed-english-v2.0. Casi tan capaz, pero mucho más rápida. Sólo en inglés.
embed-multilingual-v2.0	768	256	Proporciona clasificación multilingüe y soporte de incrustación. Vea los idiomas soportados aquí.

Para más detalles, consulte los modelos de incrustación de Cohere.

Configurar credenciales

Milvus debe conocer su clave API de Cohere antes de poder solicitar incrustaciones. Milvus proporciona dos métodos para configurar las credenciales:

• Archivo de configuración (recomendado): Almacene la clave API en milvus.yaml para que cada reinicio y nodo la recoja automáticamente.

• Variables de entorno: Inyectar la clave en el momento del despliegue, ideal para Docker Compose.

Elija uno de los dos métodos siguientes: el archivo de configuración es más fácil de mantener en máquinas virtuales y máquinas sin infraestructura, mientras que la ruta de las variables de entorno se adapta a los flujos de trabajo de los contenedores.

Opción 1: Archivo de configuración (recomendado y de mayor prioridad)

Mantenga sus claves API en milvus.yaml; Milvus las lee al inicio y anula cualquier variable de entorno para el mismo proveedor.

1. **Declare sus claves en credential:

   Puedes listar una o muchas claves API - dale a cada una una etiqueta que inventes y a la que harás referencia más tarde.

   # milvus.yaml
   credential:
     apikey_dev:            # dev environment
       apikey: <YOUR_DEV_KEY>
     apikey_prod:           # production environment
       apikey: <YOUR_PROD_KEY>    
   

   Poner las claves API aquí las hace persistentes a través de reinicios y le permite cambiar las claves con sólo cambiar una etiqueta.

2. Dígale a Milvus qué clave usar para las llamadas a OpenAI

   En el mismo archivo, apunte el proveedor Cohere a la etiqueta que desea utilizar.

   function:
     textEmbedding:
       providers:
         cohere:
           credential: apikey_dev      # ← choose any label you defined above
           # url: https://api.cohere.com/v2/embed   # (optional) custom url
   

   Esto vincula una clave específica a cada solicitud que Milvus envía al punto final de incrustaciones Cohere.

Opción 2: Variable de entorno

Utilice este método cuando ejecute Milvus con Docker Compose y prefiera mantener los secretos fuera de los archivos e imágenes.

Milvus recurre a la variable de entorno sólo si no se encuentra una clave para el proveedor en milvus.yaml.

Variable	Requerida	Descripción
MILVUSAI_COHERE_API_KEY	Sí	Su clave de API Cohere válida.

En su archivo docker-compose.yaml, establezca la variable de entorno MILVUSAI_COHERE_API_KEY.

# docker-compose.yaml (standalone service section)
standalone:
  # ... other configurations ...
  environment:
    # ... other environment variables ...
    # Set the environment variable pointing to the OpenAI API key inside the container
    MILVUSAI_COHERE_API_KEY: <MILVUSAI_COHERE_API_KEY>

El bloque environment: inyecta la clave sólo en el contenedor Milvus, dejando su sistema operativo anfitrión intacto. Para más detalles, consulte Configurar Milvus con Docker Compose.

Utilizar la función de incrustación

Una vez configuradas las credenciales, siga estos pasos para definir y utilizar las funciones de incrustación.

Paso 1: Definir campos de esquema

Para utilizar una función de incrustación, cree una colección con un esquema específico. Este esquema debe incluir al menos tres campos necesarios:

• El campo primario que identifica de forma única a cada entidad de una colección.

• Un campo escalar que almacena los datos brutos que se van a incrustar.

• Un campo vectorial reservado para almacenar las incrustaciones vectoriales que la función generará para el campo escalar.

El siguiente ejemplo define un esquema con un campo escalar "document" para almacenar datos textuales y un campo vectorial "dense" para almacenar las incrustaciones que generará el módulo Función. Recuerde ajustar la dimensión del vector (dim) para que coincida con la salida del modelo de incrustación elegido.

from pymilvus import MilvusClient, DataType, Function, FunctionType

# Initialize Milvus client
client = MilvusClient(
    uri="http://localhost:19530",
)

# Create a new schema for the collection
schema = client.create_schema()

# Add primary field "id"
schema.add_field("id", DataType.INT64, is_primary=True, auto_id=False)

# Add scalar field "document" for storing textual data
schema.add_field("document", DataType.VARCHAR, max_length=9000)

# Add vector field "dense" for storing embeddings.
# IMPORTANT: Set dim to match the exact output dimension of the embedding model.
schema.add_field("dense", DataType.FLOAT_VECTOR, dim=1024)

Paso 2: Añadir la función de incrustación al esquema

El módulo Function de Milvus convierte automáticamente los datos brutos almacenados en un campo escalar en incrustaciones y los almacena en el campo vectorial definido explícitamente.

El ejemplo siguiente añade un módulo Function (cohere_func) que convierte el campo escalar "document" en incrustaciones, almacenando los vectores resultantes en el campo vectorial "dense" definido anteriormente.

Una vez que haya definido su función de incrustación, añádala a su esquema de colección. Esto indica a Milvus que utilice la función de incrustación especificada para procesar y almacenar las incrustaciones de sus datos de texto.

# Define embedding function specifically for embedding model provider
text_embedding_function = Function(
    name="cohere_func",                                 # Unique identifier for this embedding function
    function_type=FunctionType.TEXTEMBEDDING,           # Indicates a text embedding function
    input_field_names=["document"],                     # Scalar field(s) containing text data to embed
    output_field_names=["dense"],                       # Vector field(s) for storing embeddings
    params={                                            # Provider-specific embedding parameters (function-level)
        "provider": "cohere",                           # Must be set to "cohere"
        "model_name": "embed-english-v3.0",             # Specifies the embedding model to use
        # Optional parameters:
        # "credential": "apikey_dev",               # Optional: Credential label specified in milvus.yaml
        # "url": "https://api.cohere.com/v2/embed",     # Defaults to the official endpoint if omitted
        # "truncate": "NONE",                           # Specifies how the API will handle inputs longer than the maximum token length.
    }
)

# Add the configured embedding function to your existing collection schema
schema.add_function(text_embedding_function)

Pasos siguientes

Después de configurar la función de incrustación, consulte la Descripción general de la función para obtener orientación adicional sobre la configuración del índice, ejemplos de inserción de datos y operaciones de búsqueda semántica.