Azure AI Foundry를 사용하여 Azure 환경에서Voyage AI by MongoDB 모델을 검색하고 배포 할 수 있습니다. Azure AI Foundry는 모델 검색, 배포서버, 청구 및 액세스 관리 위한 Azure 네이티브 경로를 제공합니다.
Azure AI Foundry를 통해 Voyage AI를 사용하면 다음과 같은 장점이 있습니다.
데이터 플로와 액세스 제어. Azure AI Foundry는 전용 네트워킹과 Azure 네이티브 액세스 제어를 지원하므로 모델 액세스를 Azure 네트워킹 및 보안 요구 사항에 맞출 수 있습니다. 전용 설정의 경우 Azure 포털에서 Foundry 프로젝트가 사용하는 특정 배포 모드와 네트워킹 구성을 확인하세요.
Azure 가 지원하는 안정성 및 컴플라이언스 . 청구, ID 및 인프라 제어는 Azure 통해 managed 됩니다.
Azure를 통한 구매 및 청구. 모델 호스팅을 위해 별도의 상업 관계를 설정하는 대신 Azure 구독, 청구 관계 및 해당 크레딟을 사용할 수 있습니다.
사용 가능한 모델
Azure AI Foundry에서 현재 사용 가능한 MongoDB의 Voyage AI 모델을 확인하려면 Azure AI Foundry에서 Voyage AI 출판사 페이지를 열어주세요.
모델 가용성은 시간에 따라 변경될 수 있습니다. Voyage AI 모델 역량과 권장 사용 사례에 대해 자세히 학습하려면 모델 개요를 참조하세요.
가격
Azure AI Foundry 가격은 Azure가 선택한 Voyage AI 모델에 사용하는 배포서버 유형과 배포하는 리전에 따라 다릅니다.
가격 구성 요소 | 예상 되는 사항 |
|---|---|
Azure 구독 청구 | 요금은 Azure 구독을 통해 청구됩니다. |
모델 비용 | Azure AI Foundry 배포 UI에는 배포하기 전에 선택한 모델 또는 배포 옵션에 대한 가격 세부 정보가 표시됩니다. |
인프라 비용 | 전용 또는 managed 컴퓨트 배포서버에는 가속기 SKU 및 리전에 따라 다른 시간당 인프라스트럭처 요금이 포함될 수 있습니다. |
리전 감도 | 총 비용 Azure 리전 및 배포서버 구성에 따라 다를 수 있습니다. |
Azure AI Foundry는 두 가지 배포서버 청구 모델을 제공합니다.
표준 Foundry 배포서버 는 배포서버 유형에 따라 일반적으로 토큰 사용량 또는 프로비저닝된 처리량으로 청구됩니다.
managed 컴퓨팅 배포서버 는 액셀러레이터 SKU별로 시간당 요금이 청구됩니다.
Azure 포털 또는 Azure AI Foundry 배포 플로우는 배포 시점에 표시되는 정확한 가격의 소스입니다. 자세한 내용은 Azure AI Foundry의 배포 옵션에 대한 Microsoft 문서 및 Azure 가격 계산기를 참조하세요.
전제 조건
Azure AI Foundry를 통해 Voyage AI 모델을 배포하기 전에 다음을 확인하세요.
활성화된 Azure 구독.
대상 구독에서 Azure AI Foundry 리소스를 만들거나 사용할 수 있는 권한.
Azure AI Foundry 프로젝트에 액세스하거나 프로젝트를 생성할 수 있는 권한.
선택한 Voyage AI 모델에 대해 Azure AI Foundry가 필요로 하는 배포서버 유형에 대한 대상 리전의 충분한 쿼타.
Azure AI Foundry를 통해 Voyage AI 모델을 배포할 계획인 동일한 리전의 Azure AI 허브 리소스입니다. 설정 지침은 허브 및 프로젝트 만들기에 대한 Microsoft 문서를 참조하세요.
조직에서 비공개 네트워킹이 필요한 경우 기존 가상 네트워크와 필요한 비공개 엔드포인트 연결을 만들고 승인하는 데 필요한 Azure 권한입니다.
Quota
이 섹션에는 배포서버 전에 할당량을 확인하고 요청 방법에 대한 지침 포함되어 있습니다.
Azure AI Foundry의 쿼타 모델은 배포 유형에 따라 달라집니다.
일부 배포서버 경로는 Azure 가상 머신 할당량 대신 Azure AI Foundry 할당량을 사용합니다.
다른 배포 경로에서는 배포 흐름에서 인프라스트럭처 중심의 크기 및 리전 가용성 선택이 표시될 수 있습니다.
Azure AI Foundry는 다양한 모델 패밀리를 다양한 배포 모드를 통해 라우팅할 수 있으므 시작하기 전에 Azure 포털과 Azure AI Foundry 배포 UI에서 쿼타를 확인하십시오.
Check Quota
Azure AI Foundry 쿼타 지침에 대해서는 배포 옵션에 대한 Microsoft 문서를 참조하십시오.
할당량 증가 요청
충분한 쿼타 또는 용량이 없는 경우:
Azure 포털을 사용하여 필요한 서비스 또는 리전에 대한 적절한 쿼타 증가를 요청합니다.
배포 플로우에 Azure AI Foundry 특정 쿼타 요구 사항이 표시되면 Azure UI에 연결된 쿼타 워크플로우를 따르세요.
증가가 승인된 후 배포서버를 다시 시도합니다.
Azure AI Foundry 배포 유형은 진화하므로 Azure 포털 및 배포 워크플로를 정확한 쿼타 프로세스의 정보 소스로 사용합니다.
네트워킹 준비
조직에서 사용하는 배포에서 지원하는 기본 Azure AI Foundry 네트워킹 옵션을 사용할 수 있습니다.
조직에서 전용 연결이 필요한 경우 배포 전에 네트워크를 준비하세요.
Azure AI Foundry 프로젝트 또는 클라이언트 애플리케이션이 사용할 가상 네트워크와 서브네트를 식별합니다.
비공개 엔드포인트 생성하고 조직 비공개 엔드포인트 연결을 사용하는 경우 이를 승인할 수 있는 권한이 있는지 확인합니다.
사설 액세스에 대한 DNS 해결 및 라우팅 요구 사항을 확인합니다.
애플리케이션, 유효성 검사 호스팅 또는 에이전트 도구에 필요한 모든 아웃바운드 액세스 정책을 유효성 검사합니다.
Azure AI Foundry 사설 네트워킹 지침은 Azure AI Foundry의 네트워크 격리에 대한 Microsoft 문서를 참조하세요.
Azure AI Foundry에 Voyage AI 모델 배포
이 섹션에서는 Azure AI Foundry에서 MongoDB 모델의 Voyage AI를 배포합니다.
Voyage AI는 Azure AI Foundry에서 제3자 managed 컴퓨팅 제공으로 제공되므로 Azure는 GPU 기반 인프라스트를 프로비저닝하고 선택한 Voyage AI 모델을 그 위에 배포하는 배포 위저드를 사용합니다.
Azure AI Foundry 포털은 선택한 모델에 대한 적절한 배포 경로를 선택합니다. 모델과 해당 리스팅에 대한 Azure의 현재 통합에 따라 배포 시 표시되는 필드와 배포된 모델에 연결하는 방식에 영향을 미칠 수 있습니다.
배포서버 설정
배포서버 동안 다음 설정을 신중히 검토하세요.
설정 | 지침 |
|---|---|
서브스크립션 | 배포서버에 대한 청구서를 받아야 하는 Azure 구독을 사용합니다. |
프로젝트 | 모델 배포서버를 소유해야 하는 Azure AI Foundry 프로젝트를 사용합니다. |
리전 | 조직에 필요한 총 용량과 네트워킹 프로필이 있는 지원되는 리전을 선택합니다. |
배포 유형 | 선택한 Voyage AI 모델에 대해 Azure에서 제공하는 배포서버 유형을 사용합니다. |
인증 | Azure AI Foundry가 제공하는 프로젝트 키를 배포에 사용합니다. |
Networking | 필요한 경우 Foundry 리소스 및 프로젝트에서 지원하는 비공개 네트워킹 또는 비공개 엔드포인트 설정을 적용합니다. |
완료 확인
배포가 성공한 후:
Azure AI Foundry에서 배포된 모델 또는 배포 세부 정보 페이지를 엽니다.
클라이언트에 필요한 엔드포인트 정보, 배포 이름, 인증 방법 및 모든 리전 또는 네트워킹 세부 정보를 캡처합니다.
배포서버가 통합된 Azure AI Foundry 프로젝트 엔드포인트를 사용하는지 또는 포털에서 노출된 다른 Azure managed 연결 패턴을 사용하는지 기록합니다.
connectionDetails
Azure AI Foundry 연결 세부 정보는 Azure가 선택한 모델에 사용하는 배포 모드에 따라 달라집니다. Azure AI Foundry의 배포 세부 정보 페이지를 신뢰할 수 있는 소스로 사용합니다.
배포 후 Azure AI Foundry에서 다음 값을 캡처합니다.
값 | 필요한 이유 |
|---|---|
프로젝트 엔드포인트 또는 모델 엔드포인트 | 클라이언트는 이 기본 URL을 사용하여 추론 요청을 보냅니다. |
deploymentName | 일부 SDK 및 API 경로에는 배포 식별자가 필요합니다. |
인증 방법 | 배포를 위해 Azure AI Foundry에서 제공하는 키 또는 토큰이 필요합니다. |
리전 | 거버넌스, 문제 해결 및 지연 시간 예측에 유용합니다. |
네트워크 제한 사항 | 클라이언트가 승인된 네트워크에서 연결해야 하는지 또는 개인 액세스를 통해 연결해야 하는지 여부를 나타냅니다. |
Azure AI Foundry는 일반적으로 다음 연결 패턴 중 하나를 노출합니다.
통합 파운드리 프로젝트 엔드포인트입니다. 일부 Azure AI Foundry 배포는 요청 경로 또는 페이로드에 제공된 배포서버 이름을 사용하여 프로젝트의 통합 엔드포인트를 통해 호출됩니다.
비공개 또는 네트워크 개별 액세스. Foundry 프로젝트가 비공개 액세스로 구성되어 있는 경우 클라이언트는 승인된 네트워크에서 실행되어야 하며 Azure 비공개 엔드포인트를 올바르게 해결해야 합니다.
인증
배포된 모델에 대해 Azure AI Foundry에 표시된 인증 방법을 사용합니다. Voyage AI 모델 배포서버는 현재 키 기반 인증만 지원합니다.
- 배포서버에서 노출되는 Azure AI Foundry 프로젝트 키 또는 기타 키 기반 자격 증명서입니다.
연결 확인
배포서버 후 애플리케이션 이 배포된 모델에 연결할 수 있는지 확인합니다.
배포서버에서 사용하는 개인 네트워킹이 있는 경우 다음도 수행합니다.
승인된 네트워크 경계 내의 클라이언트에서 테스트를 실행합니다.
해당하는 경우 예상되는 비공개 엔드포인트에 대한 DNS 해석을 검증합니다.
방화벽, 서브네트 및 비공개 엔드포인트 설정이 요청을 허용하는지 확인합니다.
사설 네트워킹 유효성 검사에 대한 자세한 내용은 Azure AI Foundry의 네트워크 격리에 대한 Microsoft 문서를 참조하세요.
유효성 검사 워크플로 예시
다음 워크플로를 사용하여 배포서버 엔드 투 엔드 유효성을 검사합니다.
문제 해결
배포에 연결할 수 없는 경우:
모델 배포서버가 성공적으로 완료되었는지 확인합니다.
올바른 엔드포인트와 배포 이름을 사용하고 있는지 확인합니다.
인증 방법이 Azure AI Foundry에 표시된 방법과 일치하는지 확인합니다.
비공개 네트워킹이 활성화되어 있는 경우 DNS, 비공개 엔드포인트 승인, 서브네트 라우팅 및 방화벽 구성을 확인하세요.
배포가 완료되기 전에 실패한 경우 Azure 쿼타, 리전 가용성 및 배포 플로에 표시된 용량 제한을 검토하세요.
Voyage AI 배포서버 삭제
지속적인 요금을 피하려면 더 이상 필요하지 않는 모델 배포서버를 삭제.
설정에 이 배포를 위해서만 만들어진 비공개 엔드포인트 또는 기타 지원 네트워크 리소스가 포함되어 있는 경우, 이들도 제거해야 하는지 검토합니다.