Gemini Enterprise Agent Platform の Model Garden を使用した Voyage AI モデルの配置

利用可能なモデル

配置できるモデルを確認するには、「Valyage」を検索します。 Geomi Enterprise Agent プラットフォーム上のモデル ゾーンにある。

Doyage AIモデルの詳細については、「 Vyage AI埋め込みと再ランク付けモデルの概要 」を参照してください。

価格

Gemini Enterprise Agent Platform の Model Garden にある MongoDB モデルによる Voyage AI の価格には、次のものが含まれます。

• モデル使用料金: 時間単位で請求される、Voyage AIモデルコンテナの使用コスト。使用料金は、特定のモデルと配置用に選択したハードウェア構成によって異なります。詳細な料金情報については、Google Cloud Marketplace のモデルのリスト ページの「価格」セクションを参照してください。

• Google Cloud 基礎のインスタンス in your region: 基礎の Google Cloud GPUインスタンスのコスト（リージョン固有の Nvidia L4、A100、H100 など）は毎月請求され、月額料金は請求されます。 vCPU。詳しくは、「 Google Cloud コンピュート エンジンの料金 」を参照してください。

すべての請求料金は、Google Cloud の請求書の Gemini Enterprise Agent Platform の使用として表示されます。

特定のVoyage AIモデルの価格を表示するには:

Quotas

投票AIモデルを配置すると、割り当ての対象となる Geomi Enterprise Agent Platform リソースが消費されます。Quotas Google Cloud コンソールの IAM ページの [] セクションで割り当てを表示および管理できます。詳しくは、「プロジェクトの割り当てを表示する 」を参照してください。同じページで、現在の割り当てを右クリックし、[] Edit quotaをクリックして、必要に応じて割り当てを増やすためのリクエストを送信できます。

前提条件

Gemini Enterprise Agent Platformを通じてMongoDBモデルのVoyage AIの使用を開始するには、次の手順を実行する必要があります。

• Google Cloudプロジェクトと開発環境を設定します。詳しくは、 「 プロジェクトと開発環境を設定する 」を参照してください。

• Geomi Enterprise Agent Platform API を有効にします。手順については、「 セットアップ 」を参照してください。

ハードウェア構成

Model Garden の各モデルは、推奨ハードウェア構成を一覧表示します。Gemini Enterprise Agent Platform の Model Garden で、各 Voyage モデルの推奨ハードウェア仕様を参照してください。

例えば、voyage-4 モデルの場合、Gemini Enterprise Agent Platform の Model Garden が配置に推奨する次の推奨インスタンスを使用します。これらの推奨は変更される可能性があります。特定の Voyage AI モデルの推奨ハードウェアを確認するには、Gemini Enterprise Agent Platform の Model Garden の公式ページを参照することをお勧めします。

• A2 インスタンス、Aa2-highgpu-1g や a2-ultragpu-1g などの A100 CPU がデフォルトの選択になります。

• より高いパフォーマンスのニーズには、H100 GPU を搭載した a3-highgpu-1g などの A3 インスタンスをお勧めします。

サポートされているリージョン

モデル データベースには、各Voyage AIモデルでサポートされているリージョンが一覧表示されます。モデルの別のリージョンでサポートが必要な場合は、MongoDBサポートにお問い合わせください。

ベストプラクティスと制限事項

• エンドポイントとなる接続されたデバイス タイプ: すべてのVoyage AIモデルには専用のパブリック エンドポイント タイプが必要です。詳しくは、エンドポイントとなる接続されたデバイスの種類を選択する を参照してください。

• input_type: クエリとドキュメントの理解: input_type パラメーターは、検索タスクの埋め込みを最適化します。検索クエリには "query" を使用し、検索されるコンテンツには "document" を使用します。この最適化により、検索の精度が向上します。input_type パラメータの詳細については、埋め込みと再ランク付けAPI の概要 を参照してください。

• 異なる出力サイズを使用する: Voyage 4 モデルは、複数の出力ディメンション をサポートしています。256、512、1024（デフォルト）、2048単位が小さい場合、ストレージとコンピューティングのコストが削減されますが、単位が大きいと精度が向上する可能性があります。精度要件とリソース制約の最もバランスが取れたディメンションを選択します。

Voyage AIモデルの特定

モデル ガーデンでMongoDBのVoyage AIモデルを見つけるには：

Gemini Enterprise エージェント Platform で Voyage AI モデルを配置する

MongoDBモデルのVoyage AIを使用して予測するには、オンライン推論用のプライベートエンドポイントにそれを配置する必要があります。配置は、低レイテンシと高スループットのオンライン予測のモデルに物理リソースを関連付けます。1 つのエンドポイントとなる接続されたデバイスに複数のモデルを配置することも、同じモデルを複数のエンドポイントとなる接続されたデバイスに配置することもできます。

モデルを配置するときは、次のオプションを考慮してください。

• エンドポイントとなる接続されたデバイスのロケーション

• モデルコンテナ

• モデルの実行に必要な計算リソース

モデルを配置すると、これらの設定を変更することはできません。配置構成を変更する必要がある場合は、モデルの配置を解除し、新しい設定で再配置する必要があります。

投票AIモデルには専用のパブリック エンドポイントが必要です。詳細については、Geomi Enterprise Agent Platform ドキュメントの「 パブリックエンドポイントの作成 」を参照してください。

コンソールを使用して Gemini Enterprise Agent Platform にモデルを配置するには、

コードを使用した配置

モデルの詳細ページから View Code を選択した場合は、Vertex AI SDK を使用してプログラムによってモデルを配置できます。このアプローチでは、コードを通じて配置構成を完全に制御できます。

Google Cloud Vertex AI SDK の詳細については、 Python用の Vertex AI SDK ドキュメントを参照してください。

コードを使用してモデルを配置するには、次の手順に従います。

from vertexai import model_garden
MODEL_NAME = "mongodb/voyage-4@latest"
model = model_garden.OpenModel(MODEL_NAME)
deploy_options = model.list_deploy_options(concise=True)
print(deploy_options)

# Choose whether to deploy a new model or use an existing endpoint:
deployment_option = "deploy_new"  # ["deploy_new", "use_existing"]
# If using existing endpoint, provide the endpoint ID:
ENDPOINT_ID = ""  # {type:"string"}
if deployment_option == "deploy_new":
    print("Deploying new model...")
    endpoint = model.deploy(
        machine_type="a3-highgpu-1g",
        accelerator_type="NVIDIA_H100_80GB",
        accelerator_count=1,
        accept_eula=True,
        use_dedicated_endpoint=True,
    )
    print(f"Endpoint deployed: {endpoint.display_name}")
    print(f"Endpoint resource name: {endpoint.resource_name}")
else:
    if not ENDPOINT_ID:
        raise ValueError("Please provide an ENDPOINT_ID when using existing endpoint")
    from google.cloud import aiplatform
    print(f"Connecting to existing endpoint: {ENDPOINT_ID}")
    endpoint = aiplatform.Endpoint(
        endpoint_name=f"projects/{PROJECT_ID}/locations/{LOCATION}/endpoints/{ENDPOINT_ID}"
    )
    print(f"Using endpoint: {endpoint.display_name}")
    print(f"Endpoint resource name: {endpoint.resource_name}")

import json
# Multiple texts to embed
texts = [
    "Machine learning enables computers to learn from data.",
    "Natural language processing helps computers understand human language.",
    "Computer vision allows machines to interpret visual information.",
    "Deep learning uses neural networks with multiple layers."
]
# Prepare the batch request and make invoke call
body = {
    "input": texts,
    "output_dimension": 1024,
    "input_type": "document"
}
response = endpoint.invoke(
    request_path="/embeddings",
    body=json.dumps(body).encode("utf-8"),
    headers={"Content-Type": "application/json"}
)
# Extract embeddings
result = response.json()
embeddings = [item["embedding"] for item in result["data"]]
print(f"Number of texts embedded: {len(embeddings)}")
print(f"Embedding dimension: {len(embeddings[0])}")
print(f"\nFirst embedding (first 5 values): {embeddings[0][:5]}")
print(f"Second embedding (first 5 values): {embeddings[1][:5]}")

モデルの配置を解除し、エンドポイントとなる接続されたデバイスを削除する

配置されたモデルとそのエンドポイントを削除するには:

1. エンドポイントとなる接続されたデバイスからモデルを配置解除します。

2. 必要に応じて、エンドポイントとなる接続されたデバイス自体を削除します。

詳細な手順については、GeoDB Enterprise Agent プラットフォームのドキュメントの「 モデルの配置を解除し、エンドポイントを削除する 」を参照してください。