Google Cloud モデル Garden を使用して Voyage AI モデルを配置する

利用可能なモデル

配置できるモデルを確認するには、Google Cloud モデル 結果で「Voyage」を検索します。

Voyage AIモデルの詳細については、「 モデルの概要 」を参照してください。

価格

Google Cloud モデル ツリーのMongoDBモデルによるVoyage AIの価格には、次のものが含まれます。

• モデル使用料金: 時間単位で請求される、Voyage AIモデルコンテナの使用コスト。使用料金は、特定のモデルと配置用に選択したハードウェア構成によって異なります。詳細な料金情報については、Google Cloud Marketplace のモデルのリスト ページの「価格」セクションを参照してください。

• Google Cloud 基礎のインスタンス in your region: 基礎の Google Cloud GPUインスタンスのコスト（リージョン固有の Nvidia L4、A100、H100 など）は毎月請求され、月額料金は請求されます。 vCPU。詳しくは、「 Google Cloud コンピュート エンジンの料金 」を参照してください。

すべての請求料金は、Google Cloud の請求書の Vertex AIの使用として表示されます。

特定のVoyage AIモデルの価格を表示するには:

Quotas

Voyage AIモデルを配置すると、割り当ての対象となる Vertex AIリソースが消費されます。Google Cloud コンソールの IAM ページの [Quotas] セクションで割り当てを表示および管理できます。詳しくは、「プロジェクトの割り当てを表示する」を参照してください。同じページで、現在の割り当てを右クリックし、[Edit quota] をクリックして、必要に応じて割り当てを増やすためのリクエストを提出できます。

前提条件

Google Cloud Vertex AIを通じてMongoDBモデルのVoyage AIの使用を開始するには、次の手順を実行する必要があります。

• Google Cloudプロジェクトと開発環境を設定します。詳しくは、プロジェクトと開発環境を設定するを参照してください。

• Vertex AI API を有効にします。手順については、設定を参照してください。

ハードウェア構成

モデル ラグの各モデルには、推奨ハードウェア構成が示されています。各 Voyage モデルの推奨ハードウェア仕様については、Vertex AI 用の Google Cloud Model Garden を参照してください。

例、voyage-4モデルでは、Vertex AIモデル グループが配置について提案する次の推奨インスタンスを使用します。これらの推奨事項は変更される可能性があるため、特定の Voyage AIモデルの公式 Google Cloud Platform ページを参照して、推奨ハードウェア を確認することをお勧めします。

• A2 インスタンス、Aa2-highgpu-1g や a2-ultragpu-1g などの A100 CPU がデフォルトの選択になります。

• より高いパフォーマンスのニーズには、H100 GPU を搭載した a3-highgpu-1g などの A3 インスタンスをお勧めします。

サポートされているリージョン

モデル データベースには、各Voyage AIモデルでサポートされているリージョンが一覧表示されます。モデルの別のリージョンでサポートが必要な場合は、MongoDBサポートにお問い合わせください。

ベストプラクティスと制限事項

• エンドポイントとなる接続されたデバイス タイプ: すべてのVoyage AIモデルには専用のパブリック エンドポイント タイプが必要です。詳しくは、エンドポイントとなる接続されたデバイスの種類を選択する を参照してください。

• input_type: クエリとドキュメントの理解: input_type パラメーターは、検索タスクの埋め込みを最適化します。検索クエリには "query" を使用し、検索されるコンテンツには "document" を使用します。この最適化により、検索の精度が向上します。input_type パラメータの詳細については、埋め込みと再ランク付けAPI の概要 を参照してください。

• 異なる出力サイズを使用する: Voyage 4 モデルは、複数の出力ディメンション をサポートしています。256、512、1024（デフォルト）、2048単位が小さい場合、ストレージとコンピューティングのコストが削減されますが、単位が大きいと精度が向上する可能性があります。精度要件とリソース制約の最もバランスが取れたディメンションを選択します。

Voyage AIモデルの特定

モデル ガーデンでMongoDBのVoyage AIモデルを見つけるには：

Vertex AIでのVoyage AIモデルを配置する

MongoDBモデルのVoyage AIを使用して予測するには、オンライン推論用のプライベートエンドポイントにそれを配置する必要があります。配置は、低レイテンシと高スループットのオンライン予測のモデルに物理リソースを関連付けます。1 つのエンドポイントとなる接続されたデバイスに複数のモデルを配置することも、同じモデルを複数のエンドポイントとなる接続されたデバイスに配置することもできます。

モデルを配置するときは、次のオプションを考慮してください。

• エンドポイントとなる接続されたデバイスのロケーション

• モデルコンテナ

• モデルの実行に必要な計算リソース

モデルを配置すると、これらの設定を変更することはできません。配置構成を変更する必要がある場合は、モデルの配置を解除し、新しい設定で再配置する必要があります。

Voyage AIモデルには専用のパブリック エンドポイントとなる接続されたデバイスが必要です。詳しくは、Google Cloud Vertex AIドキュメントの「 パブリックエンドポイントの作成 」を参照してください。

コンソールを使用して、Google Cloud Vertex AIにモデルを配置するには次のようにします。

コードを使用した配置

モデルの詳細ページから View Code を選択した場合は、Vertex AI SDK を使用してプログラムによってモデルを配置できます。このアプローチでは、コードを通じて配置構成を完全に制御できます。

For more information about the Google Cloud Vertex AI SDK, see the Python用の Vertex AI SDK ドキュメントを参照してください。

コードを使用してモデルを配置するには、次の手順に従います。

from vertexai import model_garden
MODEL_NAME = "mongodb/voyage-4@latest"
model = model_garden.OpenModel(MODEL_NAME)
deploy_options = model.list_deploy_options(concise=True)
print(deploy_options)

# Choose whether to deploy a new model or use an existing endpoint:
deployment_option = "deploy_new"  # ["deploy_new", "use_existing"]
# If using existing endpoint, provide the endpoint ID:
ENDPOINT_ID = ""  # {type:"string"}
if deployment_option == "deploy_new":
    print("Deploying new model...")
    endpoint = model.deploy(
        machine_type="a3-highgpu-1g",
        accelerator_type="NVIDIA_H100_80GB",
        accelerator_count=1,
        accept_eula=True,
        use_dedicated_endpoint=True,
    )
    print(f"Endpoint deployed: {endpoint.display_name}")
    print(f"Endpoint resource name: {endpoint.resource_name}")
else:
    if not ENDPOINT_ID:
        raise ValueError("Please provide an ENDPOINT_ID when using existing endpoint")
    from google.cloud import aiplatform
    print(f"Connecting to existing endpoint: {ENDPOINT_ID}")
    endpoint = aiplatform.Endpoint(
        endpoint_name=f"projects/{PROJECT_ID}/locations/{LOCATION}/endpoints/{ENDPOINT_ID}"
    )
    print(f"Using endpoint: {endpoint.display_name}")
    print(f"Endpoint resource name: {endpoint.resource_name}")

import json
# Multiple texts to embed
texts = [
    "Machine learning enables computers to learn from data.",
    "Natural language processing helps computers understand human language.",
    "Computer vision allows machines to interpret visual information.",
    "Deep learning uses neural networks with multiple layers."
]
# Prepare the batch request and make invoke call
body = {
    "input": texts,
    "output_dimension": 1024,
    "input_type": "document"
}
response = endpoint.invoke(
    request_path="/embeddings",
    body=json.dumps(body).encode("utf-8"),
    headers={"Content-Type": "application/json"}
)
# Extract embeddings
result = response.json()
embeddings = [item["embedding"] for item in result["data"]]
print(f"Number of texts embedded: {len(embeddings)}")
print(f"Embedding dimension: {len(embeddings[0])}")
print(f"\nFirst embedding (first 5 values): {embeddings[0][:5]}")
print(f"Second embedding (first 5 values): {embeddings[1][:5]}")

モデルの配置を解除し、エンドポイントとなる接続されたデバイスを削除する

配置されたモデルとそのエンドポイントを削除するには:

1. エンドポイントとなる接続されたデバイスからモデルを配置解除します。

2. 必要に応じて、エンドポイントとなる接続されたデバイス自体を削除します。

詳細な手順については、Google Cloud Vertex AIドキュメントのモデルの配置を解除し、エンドポイントを削除するを参照してください。