Você pode usar o Azure IA Foundry para descobrir e implantar modelos Voyage AI by MongoDB em seu ambiente Azure. O Azure IA Foundry oferece um caminho nativo do Azure para descoberta, implantação, faturamento e gerenciamento de acesso de modelos.
A utilização do Voyage AI por meio do Azure IA Foundry oferece os seguintes benefícios:
Fluxo de dados e controle de acesso. O Azure AI Foundry oferece suporte a redes privadas e controles de acesso nativos do Azure para que você possa alinhar o acesso ao modelo com os requisitos de rede e segurança do Azure. Para configurações privadas, valide o modo de implantação específico e a configuração de rede que seu projeto Foundry usa no portal do Azure.
Confiabilidade e compliance com o suporte do Azure. O faturamento, a identidade e os controles de infraestrutura são gerenciados por meio do Azure.
Aquisição e faturamento via Azure. Você pode usar sua assinatura do Azure, relacionamento de faturamento e créditos aplicáveis em vez de estabelecer um relacionamento comercial separado para hospedagem de modelos.
Modelos disponíveis
Para ver os modelos Voyage AI by MongoDB atualmente disponíveis no Azure IA Foundry, abra a página do editor Voyage AI no Azure IA Foundry.
A disponibilidade do modelo pode mudar com o tempo. Para aprender mais sobre a funcionalidade do modelo Voyage AI e os casos de uso recomendados, consulte Visão geral dos modelos.
Preços
O preço do Azure AI Foundry depende do tipo de implantação que o Azure usa para o modelo Voyage AI selecionado e da região em que você o implanta.
Componente de preços | O que esperar |
|---|---|
Faturamento de assinatura do Azure | As cobranças são faturadas por meio de sua assinatura do Azure. |
Custo do modelo | A IU de implantação do Azure IA Foundry mostra os detalhes de preços do modelo ou opção de implantação selecionado antes de implantar. |
Custo da infraestrutura | As implantações de computação dedicadas ou gerenciadas podem incluir cobranças de infraestrutura por hora que variam de acordo com o SKU e a região do acelerador. |
Sensibilidade da região | O custo total pode variar de acordo com a região do Azure e a configuração de implantação. |
O Azure IA Foundry oferece dois modelos de faturamento de implantação:
As implantações padrão do Foundry são normalmente cobradas pelo uso de tokens ou pela taxa de transferência provisionada, dependendo do tipo de implantação.
As implantações de computação gerenciadas são cobradas por hora por SKU do acelerador.
O portal do Azure ou o fluxo de implantação do Azure AI Foundry é a fonte da verdade para o preço exato mostrado no momento da implantação. Para obter mais informações, consulte a documentação da Microsoft para opções de implantação no Azure IA Foundry e a calculadora de preços do Azure.
Pré-requisitos
Antes de implantar um modelo Voyage AI por meio do Azure AI Foundry, certifique-se de ter o seguinte:
Uma assinatura ativa do Azure.
Permissões para criar ou usar recursos do Azure IA Foundry na assinatura de destino.
Acesso a um projeto do Azure IA Foundry ou permissão para criar um.
Cota suficiente na região de destino para o tipo de implantação que o Azure IA Foundry exige para o modelo Voyage AI selecionado.
Um recurso de hub de IA do Azure na mesma região onde você planeja implantar o modelo Voyage AI por meio do Azure AI Foundry. Para obter orientações para configurar, consulte a documentação da Microsoft para criar hubs e projetos.
Se sua organização exigir rede privada, uma rede virtual existente e as permissões do Azure necessárias para criar e aprovar quaisquer conexões de private endpoints necessárias.
Quota
Esta seção inclui orientações sobre como verificar e solicitar cota antes da implantação.
O modelo de cota no Azure AI Foundry depende do tipo de implantação:
Alguns caminhos de implantação usam cotas do Azure IA Foundry em vez de cotas de máquina virtual do Azure.
Outros caminhos de implantação podem apresentar opções de dimensionamento e disponibilidade de região orientadas para a infraestrutura no fluxo de implantação.
Como o Azure IA Foundry pode rotear diferentes famílias de modelos por meio de diferentes modos de implantação, verifique a cota no portal do Azure e na IU de implantação do Azure IA Foundry antes de começar.
Check Quota
Para orientação sobre cota do Azure IA Foundry, consulte documentação da Microsoft sobre opções de implantação.
Solicitar aumento de cota
Se você não tiver cota ou capacidade suficiente:
Use o portal do Azure para fazer a solicitação do aumento de cota relevante para o serviço ou região necessários.
Se o fluxo de implantação indicar requisitos de cota específicos do Azure IA Foundry, siga o fluxo de trabalho de cota vinculado na IU do Azure.
Tente novamente a implantação após a aprovação do aumento.
Como os tipos de implantação do Azure AI Foundry evoluem, use o portal do Azure e o fluxo de trabalho de implantação como a fonte da verdade para o processo de cota exato.
Preparar Rede
Se sua organização não exigir rede privada, você poderá usar as opções de rede padrão do Azure IA Foundry que a implantação suporta.
Se sua organização exigir conectividade privada, prepare sua rede antes da implantação:
Identifique a rede virtual e a sub-rede que seu projeto Azure IA Foundry ou aplicativos cliente usarão.
Confirme se você tem permissão para criar private endpoints e aprovar conexões de private endpoints se sua organização os utilizar.
Confirme a resolução de DNS e os requisitos de roteamento para acesso privado.
Valide quaisquer políticas de acesso de saída que seus aplicativos, hosts de validação ou FERRAMENTAS de agente exijam.
Para obter orientação sobre rede privada do Azure IA Foundry, consulte a documentação da Microsoft sobre isolamento de rede para o Azure IA Foundry.
Implante um modelo de IA do Voyage no Azure AI Foundry
Nesta seção, você implanta um modelo Voyage AI by MongoDB do Azure IA Foundry.
Como o Voyage AI é fornecido no Azure IA Foundry como uma oferta de computação gerenciada de terceiros, o Azure usa um assistente de implantação que provisiona a infraestrutura com suporte de GPU e implanta o modelo Voyage AI selecionado sobre ela.
O portal do Azure IA Foundry seleciona o caminho de implantação apropriado para o modelo escolhido. Dependendo do modelo e da integração atual do Azure para essa listagem, isso pode afetar os campos que você vê durante a implantação e a maneira como você se conecta ao modelo implantado.
Configurações de implantação
Revise as seguintes configurações cuidadosamente durante a implantação:
Contexto | Orientação |
|---|---|
inscrição | Use a assinatura do Azure que deve receber a cobrança da implantação. |
Projeto | Use o projeto Azure IA Foundry que deve possuir a implantação do modelo. |
Região | Escolha uma região compatível com capacidade suficiente e o perfil de rede que sua organização exige. |
Tipo de implementação | Use o tipo de implantação oferecido pelo Azure para o modelo Voyage AI selecionado. |
Autenticação | Use as chaves de projeto que o Azure IA Foundry fornece para a implantação. |
Networking | Se necessário, aplicar configurações de rede privada ou private endpoints compatíveis com seu recurso e projeto Foundry. |
Confirmar conclusão
Após o sucesso da implantação:
Abra a página de detalhes do modelo implantado ou da implantação no Azure IA Foundry.
Capture as informações do ponto de extremidade, o nome da implantação, o método de autenticação e quaisquer detalhes de região ou rede de que você precise para os clientes.
Registre se a implantação usa o ponto de extremidade unificado do projeto Azure IA Foundry ou outro padrão de conexão gerenciado pelo Azure exposto pelo portal.
detalhes da conexão
Os detalhes de conexão do Azure AI Foundry dependem do modo de implantação que o Azure usa para o modelo selecionado. Use a página de detalhes de implantação no Azure IA Foundry como fonte de verdade.
Após a implantação, capture os seguintes valores do Azure IA Foundry:
Valor | Por que você precisa |
|---|---|
Ponto de extremidade do projeto ou ponto de extremidade do modelo | Seu cliente usa esta URL base para enviar solicitações de inferência. |
deploymentName | Alguns SDKs e rotas de API exigem um identificador de implantação. |
Método de autenticação | Você precisa das chaves ou tokens que o Azure IA Foundry fornece para a implantação. |
Região | Útil para governança, solução de problemas e expectativas de latência. |
Restrições de rede | Indica se os clientes devem se conectar de redes aprovadas ou por meio de acesso privado. |
O Azure IA Foundry geralmente expõe um dos seguintes padrões de conexão:
Ponto de extremidade do projeto Unified Foundry. Algumas implantações do Azure IA Foundry são invocadas por meio do ponto de extremidade unificado do projeto, com o nome da implantação fornecido no caminho da solicitação ou no payload.
Acesso privado ou isolado da rede. Se o seu projeto Foundry estiver configurado para acesso privado, os clientes deverão ser executados a partir de redes aprovadas e resolver os private endpoints do Azure corretamente.
Autenticação
Use o método de autenticação mostrado no Azure AI Foundry para o modelo implantar. As implantações de modelo Voyage AI atualmente suportam apenas autenticação baseada em chave:
- Chaves de projeto do Azure IA Foundry ou outras credenciais baseadas em chave que a implantação expõe.
Verificar conectividade
Após a implantação, verifique se o aplicativo pode se conectar ao modelo implantado.
Envie uma solicitação de teste.
Envie uma pequena solicitação de teste usando o código de amostra fornecido pelo Azure, o exemplo de SDK ou o playground de API mostrado para a implantação e confirme se a resposta foi bem-sucedida e se os metadados do modelo retornado correspondem à implantação que você criou.
Se sua implantação usar rede privada, faça também o seguinte:
Execute o teste de um cliente dentro do limite de rede aprovado.
Valide a resolução de DNS para o private endpoints esperado, se aplicável.
Confirme se as configurações de firewall, sub-rede e private endpoints permitem a solicitação.
Para validação de rede privada, consulte a documentação da Microsoft sobre isolamento de rede para Azure IA Foundry.
Exemplo de fluxo de trabalho de validação
Use o seguinte fluxo de trabalho para validar a implantação de ponta a ponta:
Solução de problemas
Se você não conseguir se conectar à implantação:
Confirme se a implantação do modelo foi concluída com sucesso.
Confirme se você está usando o ponto de extremidade e o nome de implantação corretos.
Confirme se o método de autenticação corresponde ao mostrado no Azure IA Foundry.
Se a rede privada estiver habilitada, confirme o DNS, a aprovação do private endpoints, o roteamento de sub-rede e a configuração do firewall.
Se a implantação falhar antes da conclusão, revise a cota do Azure, a disponibilidade da região e quaisquer limites de capacidade mostrados no fluxo de implantação.
Excluir uma implantação do Voyage AI
Para evitar cobranças contínuas, exclua as implantações de modelo que você não precisa mais.
Se sua configuração incluir private endpoints ou outros recursos de rede de suporte que foram criados apenas para esta implantação, revise se eles também devem ser removidos.