Puedes utilizar Azure IA Foundry para descubrir e implementar modelos Voyage AI by MongoDB en tu entorno de Azure. Azure IA Foundry proporciona una ruta nativa de Azure para el descubrimiento, la implementación, la facturación y la gestión de acceso a modelos.
El uso de Voyage AI a través de Azure IA Foundry ofrece los siguientes beneficios:
Flujo de datos y control de acceso. Azure IA Foundry admite redes privadas y controles de acceso nativos de Azure para que pueda alinear el acceso al modelo con los requisitos de red y seguridad de Azure. Para configuraciones privadas, valide el modo de implementación específico y la configuración de red que utiliza su proyecto Foundry en el portal de Azure.
Confiabilidad y cumplimiento respaldados por Azure. La facturación, la identidad y los controles de infraestructura se gestionan a través de Azure.
Adquisición y facturación a través de Azure. Puedes usar tu suscripción de Azure, la relación de facturación y los créditos aplicables en lugar de establecer una relación comercial independiente para el alojamiento de modelos.
Modelos disponibles
Para ver los modelos Voyage AI de MongoDB actualmente disponibles en Azure IA Foundry, abra la página del editor de Voyage AI en Azure IA Foundry.
La disponibilidad del modelo puede cambiar con el tiempo. Para aprender más sobre las capacidades del modelo de Voyage AI y los casos de uso recomendados, consulte Descripción general de los modelos.
Precios
El precio de Azure AI Foundry depende del tipo de implementación que Azure utilice para el modelo Voyage AI seleccionado y de la región en la que lo implemente.
Componente de precios | Qué esperar |
|---|---|
Facturación de suscripciones de Azure | Los cargos se facturan a través de su suscripción de Azure. |
Costo del modelo | La Interfaz de Usuario de implementación de Azure IA Foundry muestra los detalles de precios del modelo seleccionado o la opción de implementación antes de implementar. |
Costo de la infraestructura | Las implementaciones de computación dedicadas o gestionadas pueden incluir cargos por infraestructura por hora que varían según el SKU del acelerador y la región. |
Sensibilidad de la región | El costo total puede variar según la región de Azure y la configuración de la implementación. |
Azure IA Foundry ofrece dos modelos de facturación de implementación:
Las implementaciones estándar de Foundry suelen facturarse por uso de tokens o rendimiento aprovisionado, según el tipo de implementación.
Las implementaciones de computación gestionadas se facturan por hora por SKU de acelerador.
El flujo de implementación de Azure portal o Azure IA Foundry es la fuente de información para el precio exacto que se muestra en el momento de la implementación. Para obtener más información, consulte la documentación de Microsoft sobre las opciones de implementación en Azure IA Foundry y la calculadora de precios de Azure.
Requisitos previos
Antes de implementar un modelo de Voyage AI a través de Azure AI Foundry, asegúrate de tener lo siguiente:
Una suscripción activa de Azure.
Permisos para crear o usar recursos de Azure AI Foundry en la suscripción de destino.
Acceso a un Proyecto de Azure IA Foundry o permiso para crear uno.
Cuota suficiente en la región de destino para el tipo de implementación que Azure IA Foundry requiere para el modelo Voyage AI seleccionado.
Un recurso de centro de Azure IA en la misma región donde planeas implementar el modelo Voyage AI a través de Azure IA Foundry. Para obtener orientación para configurar, consulta la documentación de Microsoft para crear centros y Proyectos.
Si su organización requiere nodos privados, una red virtual existente y los permisos de Azure necesarios para crear y aprobar cualquier conexión de nodos privados requerida.
Quota
Esta sección incluye orientación sobre cómo verificar y hacer una solicitud de cuota antes de la implementación.
El modelo de cuota en Azure IA Foundry depende del tipo de implementación:
Algunas rutas de implementación utilizan cuotas de Azure IA Foundry en lugar de cuotas de máquinas virtuales de Azure.
Otras rutas de implementación podrían mostrar opciones de tamaño y disponibilidad de la región orientadas a la infraestructura en el flujo de implementación.
Dado que Azure IA Foundry puede enrutar diferentes familias de modelos a través de diferentes modas de implementación, verifique la cuota desde el portal de Azure y la Interfaz de Usuario de implementación de Azure IA Foundry antes de comenzar.
Check Quota
Para obtener orientación sobre la cuota de Azure IA Foundry, consulta la documentación de Microsoft sobre las opciones de implementación.
Solicitar incremento de límite
Si no tiene suficiente cuota o capacidad:
Utilice el portal de Azure para hacer la solicitud del aumento de cuota pertinente para el servicio o la región requeridos.
Si el flujo de implementación indica requisitos de cuota específicos de Azure IA Foundry, siga el flujo de trabajo de cuota vinculado desde la Interfaz de Usuario de Azure.
Vuelva a intentar la implementación después de que se apruebe el aumento.
Dado que los tipos de implementación de Azure IA Foundry evolucionan, utilice el portal de Azure y el flujo de trabajo de implementación como fuente de información para el proceso de cuota exacto.
Preparar la red
Si tu organización no requiere redes privadas, puedes utilizar las opciones de red por defecto de Azure IA Foundry que admite la implementación.
Si su organización requiere conectividad privada, prepare su red antes de la implementación:
Identifique la red virtual y la subred que utilizarán su proyecto de Azure IA Foundry o sus aplicaciones cliente.
Confirme que tiene permiso para crear nodos privados y aprobar conexiones de nodos privados si su organización los utiliza.
Confirme la resolución de DNS y los requisitos de enrutamiento para el acceso privado.
Valida cualquier política de acceso saliente que requieran tus aplicaciones, host de validación o herramientas de agente.
Para obtener orientación sobre redes privadas de Azure IA Foundry, consulte la documentación de Microsoft sobre el aislamiento de red para Azure IA Foundry.
Implementar un modelo de Voyage AI en Azure IA Foundry
En esta sección, implementarás un modelo Voyage AI de MongoDB desde Azure AI Foundry.
Dado que Voyage AI se proporciona en Azure AI Foundry como una oferta de computación gestionada por terceros, Azure utiliza un asistente de implementación que aprovisiona la infraestructura respaldada por GPU e implementa el modelo Voyage AI seleccionado sobre ella.
El portal de Azure IA Foundry selecciona la ruta de implementación adecuada para el modelo elegido. Dependiendo del modelo y de la integración actual de Azure para esa lista, esto puede afectar a los campos que ve durante la implementación y a la forma en que se conecta al modelo implementado.
Configuración de implementación
Revisión cuidadosamente las siguientes configuraciones durante la implementación:
Configuración | orientación |
|---|---|
Suscripción | Utilice la suscripción de Azure que debe recibir la facturación de la implementación. |
Proyecto | Utiliza el proyecto Azure IA Foundry que debe ser propietario de la implementación del modelo. |
Región | Elija una región compatible con capacidad suficiente y el perfil de red que su organización requiera. |
Tipo de implementación | Utilice el tipo de implementación que ofrece Azure para el modelo Voyage AI seleccionado. |
Autenticación | Utilice las claves de Proyecto que Azure IA Foundry proporciona para la implementación. |
Gestión de redes | Si es necesario, aplica la configuración de red privada o de nodos privados compatible con tu recurso y proyecto de Foundry. |
Confirmar finalización
Una vez que la implementación se realice correctamente:
Abra la página de detalles del modelo o la implementación implementados en Azure IA Foundry.
Capture la información del endpoint, el nombre de la implementación, el método de autenticación y cualquier detalle de región o red que necesite para los clientes.
Registre si la implementación utiliza el punto final unificado del Proyecto Azure IA Foundry u otro patrón de conexión gestionado por Azure expuesto por el portal.
connectionDetails
Los detalles de conexión de Azure IA Foundry dependen de la moda de implementación que Azure utiliza para el modelo seleccionado. Utilice la página de detalles de implementación en Azure IA Foundry como fuente de verdad.
Después de la implementación, capture los siguientes valores de Azure IA Foundry:
Valor | Por qué lo necesita |
|---|---|
Nodos de proyecto o nodos de modelo | Su cliente utiliza esta URL base para enviar solicitudes de inferencia. |
deploymentName | Algunos SDK y rutas de API requieren un identificador de implementación. |
Método de autenticación | Necesita las claves o tokens que Azure IA Foundry proporciona para la implementación. |
Región | Útil para la gobernanza, la resolución de problemas y las expectativas de latencia. |
Restricciones de red | Indica si los clientes deben conectarse desde redes aprobadas o mediante acceso privado. |
Azure IA Foundry suele exponer uno de los siguientes patrones de conexión:
Punto de conexión unificado del proyecto Foundry. Algunas implementaciones de Azure IA Foundry se invocan a través del punto de conexión unificado del Proyecto, con el nombre de la implementación proporcionado en la ruta de solicitud o la carga útil.
Acceso privado o aislado de la red. Si su proyecto de Foundry está configurado para acceso privado, los clientes deben ejecutarse desde redes aprobadas y resolver los nodos privados de Azure correctamente.
Autenticación
Utilice el método de autenticación que se muestra en Azure AI Foundry para el modelo implementado. Las implementaciones de modelos de Voyage AI actualmente solo admiten la autenticación basada en claves:
- Claves de Proyecto de Azure IA Foundry u otras credenciales basadas en claves que expone la implementación.
Verificar conectividad
Después de la implementación, verifica que tu aplicación pueda conectarse al modelo implementado.
Envíe una solicitud de prueba.
Envíe una pequeña solicitud de prueba utilizando el código de muestra proporcionado por Azure, el ejemplo de SDK o el área de juegos de API que se muestra para la implementación, y confirme que la respuesta se realiza correctamente y que los metadatos del modelo devueltos coinciden con la implementación que creó.
Si tu implementación utiliza redes privadas, también haz lo siguiente:
Ejecute la prueba desde un cliente dentro del límite de red aprobado.
Valide la resolución de DNS en el nodo privado esperado, si corresponde.
Confirma que la configuración del firewall, la subred y los nodos privados permiten la solicitud.
Para la validación de redes privadas, consulta la documentación de Microsoft sobre el aislamiento de red para Azure IA Foundry.
Ejemplo de flujo de trabajo de validación
Utilice el siguiente flujo de trabajo para validar la implementación de extremo a extremo:
Solución de problemas
Si no puede conectarse a la implementación:
Confirme que la implementación del modelo se completó correctamente.
Confirma que estás utilizando el endpoint y el nombre de implementación correctos.
Confirma que tu método de autenticación coincide con el que se muestra en Azure IA Foundry.
Si la red privada está habilitada, confirme el DNS, la aprobación de nodos privados, el enrutamiento de subred y la configuración de firewall.
Si la implementación falló antes de completarse, realice una revisión de la cuota de Azure, la disponibilidad de la región y cualquier límite de capacidad que se muestre en el flujo de implementación.
Borrar una implementación de Voyage AI
Para evitar cargos recurrentes, borre las implementaciones de modelos que ya no necesite.
Si su configuración incluye nodos privados u otros recursos de red de apoyo que se crearon únicamente para esta implementación, realice una revisión de si también deben eliminarse.