Voyage AICompatible with Milvus 2.6.x
このトピックでは、MilvusにおけるVoyage AIエンベッディング機能の設定方法と使用方法について説明します。
埋め込みモデルの選択
MilvusはVoyage AIが提供するエンベッディングモデルに対応しています。以下に現在利用可能なエンベッディングモデルを示しますので、ご参照ください:
モデル名 |
寸法 |
最大トークン数 |
説明 |
|---|---|---|---|
voyage-3-large |
1,024(デフォルト)、256、512、2,048 |
32,000 |
最高の汎用性と多言語検索品質。 |
voyage-3 |
1,024 |
32,000 |
汎用性と多言語検索品質に最適化。詳細はブログ記事をご参照ください。 |
voyage-3-lite |
512 |
32,000 |
レイテンシとコストを最適化。詳細はブログ記事を参照。 |
ボヤージュ-コード-3 |
1,024(デフォルト)、256、512、2,048 |
32,000 |
コード検索に最適化。詳細はブログ記事を参照。 |
ボヤージュファイナンス-2 |
1,024 |
32,000 |
ファイナンス検索とRAGに最適化。詳細はブログ記事を参照。 |
ボヤージュ-法律-2 |
1,024 |
16,000 |
法務検索とRAGを最適化。全ドメインのパフォーマンスも向上。詳細はブログ記事を参照。 |
ボヤージコード-2 |
1,536 |
16,000 |
コード検索に最適化(代替品より17%向上)/前世代のコード埋め込み。詳細はブログ記事を参照。 |
詳細はテキスト埋め込みモデルを参照。
認証情報の設定
Milvusはエンベッディングをリクエストする前にVoyage AI APIキーを知る必要があります。Milvusはクレデンシャルを設定するために2つの方法を提供します:
設定ファイル(推奨):
milvus.yamlにAPIキーを保存し、再起動やノードが自動的にAPIキーを取得するようにします。環境変数:Docker Composeに最適です。
コンフィギュレーション・ファイルはベアメタルやVMでメンテナンスしやすく、env-varルートはコンテナのワークフローに適している。
同じプロバイダのAPIキーが設定ファイルと環境変数の両方に存在する場合、milvusは常にmilvus.yaml の値を使用し、環境変数は無視します。
オプション 1: 設定ファイル (推奨 & 優先度高)
milvus.yamlMilvusは起動時にAPIキーを読み込み、同じプロバイダの環境変数を上書きします。
**の下にキーを宣言してください。
credential:APIキーは1つでも複数でもかまいません。それぞれに、後で参照するためのラベルを付けてください。
# milvus.yaml credential: apikey_dev: # dev environment apikey: <YOUR_DEV_KEY> apikey_prod: # production environment apikey: <YOUR_PROD_KEY>APIキーをここに記述することで、再起動後もAPIキーが保持され、ラベルを変更するだけでAPIキーを切り替えることができます。
Milvusにサービス呼び出しに使用するキーを知らせる。
同じファイルで、Voyage AIプロバイダーに使用したいラベルを指定する。
function: textEmbedding: providers: voyageai: credential: apikey_dev # ← choose any label you defined above # url: https://api.voyageai.com/v1/embeddings # (optional) custom urlこれにより、MilvusがVoyage AI embeddingsエンドポイントに送信するすべてのリクエストに特定のキーがバインドされます。
オプション 2: 環境変数
Docker ComposeでMilvusを実行し、ファイルやイメージから秘密を守りたい場合は、この方法を使用してください。
Milvusは、milvus.yaml にプロバイダのキーが見つからない場合のみ、環境変数にフォールバックします。
変数 |
必須 |
説明 |
|---|---|---|
|
はい |
有効なVoyage AI APIキー。 |
docker-compose.yamlファイルでMILVUSAI_VOYAGEAI_API_KEY 環境変数を設定してください。
# docker-compose.yaml (standalone service section)
standalone:
# ... other configurations ...
environment:
# ... other environment variables ...
# Set the environment variable pointing to the Voyage AI API key inside the container
MILVUSAI_VOYAGEAI_API_KEY: <MILVUSAI_VOYAGEAI_API_KEY>
environment: ブロックは、Milvus コンテナにのみキーを注入し、ホスト OS はそのままにします。詳細については、Docker Composeを使用したMilvusの設定を参照してください。
埋め込み関数の使用
認証情報の設定が完了したら、以下の手順で埋め込み関数を定義し、使用します。
ステップ1: スキーマフィールドの定義
埋め込み関数を使用するには、特定のスキーマを持つコレクションを作成します。このスキーマには、少なくとも3つの必要なフィールドが含まれていなければなりません:
コレクション内の各エンティティを一意に識別するプライマリフィールド。
埋め込む生データを格納するスカラーフィールド。
スカラー・フィールドに対して関数が生成するベクトル埋め込みを格納するために予約されたベクトル・フィールド。
次の例では、テキストデータを格納するためのスカラーフィールド"document" と、Functionモジュールによって生成される埋め込みデータを格納するためのベクトルフィールド"dense" を持つスキーマを定義しています。ベクトル次元(dim)は、選択した埋め込みモデルの出力に合わせて設定することを忘れないでください。
from pymilvus import MilvusClient, DataType, Function, FunctionType
# Initialize Milvus client
client = MilvusClient(
uri="http://localhost:19530",
)
# Create a new schema for the collection
schema = client.create_schema()
# Add primary field "id"
schema.add_field("id", DataType.INT64, is_primary=True, auto_id=False)
# Add scalar field "document" for storing textual data
schema.add_field("document", DataType.VARCHAR, max_length=9000)
# Add vector field "dense" for storing embeddings.
# IMPORTANT: Set dim to match the exact output dimension of the embedding model.
schema.add_field("dense", DataType.FLOAT_VECTOR, dim=1024)
ステップ 2: スキーマへの埋め込み関数の追加
MilvusのFunctionモジュールは、スカラーフィールドに格納された生データを自動的に埋め込みデータに変換し、明示的に定義されたベクトルフィールドに格納します。
下の例では、スカラーフィールド"document" をエンベッディングに変換するFunctionモジュール(voya)を追加し、結果のベクトルを先に定義した"dense" ベクトルフィールドに格納しています。
埋め込み関数を定義したら、コレクションスキーマに追加します。これにより、Milvusは指定された埋め込み関数を使用して、テキストデータの埋め込みを処理し、格納するようになります。
# Define embedding function specifically for embedding model provider
text_embedding_function = Function(
name="voya", # Unique identifier for this embedding function
function_type=FunctionType.TEXTEMBEDDING, # Indicates a text embedding function
input_field_names=["document"], # Scalar field(s) containing text data to embed
output_field_names=["dense"], # Vector field(s) for storing embeddings
params={ # Provider-specific embedding parameters (function-level)
"provider": "voyageai", # Must be set to "voyageai"
"model_name": "voyage-3-large", # Specifies the embedding model to use
# Optional parameters:
# "credential": "apikey_dev", # Optional: Credential label specified in milvus.yaml
# "url": "https://api.voyageai.com/v1/embeddings", # Defaults to the official endpoint if omitted
# "dim": "1024" # Output dimension of the vector embeddings after truncation
# "truncation": "true" # Whether to truncate the input texts to fit within the context length. Defaults to true.
}
)
# Add the configured embedding function to your existing collection schema
schema.add_function(text_embedding_function)
次のステップ
埋め込み関数を設定した後、インデックス設定、データ挿入例、セマンティック検索操作に関する追加ガイダンスについては、「関数の概要」を参照してください。