트래픽을 제공하는 프로덕션 Vertex Al 엔드포인트에 새 버전의 모델을 배포 중입니다. 모든 사용자 트래픽을 새 모델로 보낼 계획입니다. 애플리케이션 중단을 최소화하면서 모델을 배포해야 합니다. 어떻게 해야 합니까?
정답: C
트래픽을 제공하고 모든 사용자 트래픽을 새 모델로 전달하며 애플리케이션 중단을 최소화하면서 모델을 배포하는 프로덕션 Vertex AI 엔드포인트에 새 버전의 모델을 배포하는 가장 좋은 옵션은 새 모델을 만들고 설정하는 것입니다. parentModel 매개변수를 현재 배포된 모델의 모델 ID에 연결하고, 모델을 Vertex AI 모델 레지스트리에 업로드하고, 새 모델을 기존 엔드포인트에 배포하고, 새 모델을 트래픽의 100%로 설정합니다. 이 옵션을 사용하면 Vertex AI의 성능과 단순성을 활용하여 모델 버전을 업데이트하고 짧은 지연 시간으로 온라인 예측을 제공할 수 있습니다. Vertex AI는 Google Cloud에서 머신러닝 솔루션을 빌드하고 배포하기 위한 통합 플랫폼입니다. Vertex AI는 학습된 모델을 온라인 예측 엔드포인트에 배포하여 개별 인스턴스에 대해 지연 시간이 짧은 예측을 제공할 수 있습니다. 모델은 예측에 사용할 수 있는 기계 학습 모델을 나타내는 리소스입니다. 모델에는 동일한 모델을 다르게 구현한 하나 이상의 버전이 있을 수 있습니다. 모델 버전은 동일한 모델의 다른 버전과 다른 매개변수, 코드 또는 데이터를 가질 수 있습니다. 모델 버전은 모델을 실험 및 반복하고 모델 성능과 정확성을 향상시키는 데 도움이 될 수 있습니다. parentModel 매개변수는 새 모델 버전의 기반이 되는 모델의 모델 ID를 지정하는 매개변수입니다. parentModel 매개변수는 기존 모델의 설정과 메타데이터를 상속하고 모델 구성의 중복을 방지하는 데 도움이 될 수 있습니다. Vertex AI 모델 레지스트리는 Google Cloud에서 머신러닝 모델을 저장하고 관리할 수 있는 서비스입니다. Vertex AI 모델 레지스트리는 모델을 업로드 및 구성하고 모델 버전과 메타데이터를 추적하는 데 도움이 됩니다. 엔드포인트는 예측을 요청하는 데 사용하는 서비스 엔드포인트(URL)를 제공하는 리소스입니다. 엔드포인트에는 물리적 리소스와 연결된 모델 버전의 인스턴스인 배포된 모델이 하나 이상 있을 수 있습니다. 배포된 모델을 사용하면 짧은 지연 시간으로 온라인 예측을 제공하고 트래픽에 따라 확장하거나 축소할 수 있습니다. 새 모델을 생성하고, parentModel 매개변수를 현재 배포된 모델의 모델 ID로 설정하고, 모델을 Vertex AI 모델 레지스트리에 업로드하고, 새 모델을 기존 엔드포인트에 배포하고, 새 모델을 트래픽의 100%로 설정함으로써, 트래픽을 제공하는 프로덕션 Vertex AI 엔드포인트에 새 버전의 모델을 배포하고, 모든 사용자 트래픽을 새 모델로 전달하고, 애플리케이션 중단을 최소화하면서 모델을 배포할 수 있습니다1.
다른 옵션은 다음과 같은 이유로 옵션 C만큼 좋지 않습니다.
* 옵션 A: 새 엔드포인트 만들기, 새 모델 만들기, 기본 버전으로 설정, Vertex AI 모델 레지스트리에 모델 업로드, 새 모델을 새 엔드포인트에 배포, 새 엔드포인트를 가리키도록 Cloud DNS 업데이트 새 모델을 만들고, parentModel 매개변수를 현재 배포된 모델의 모델 ID로 설정하고, Vertex AI 모델 레지스트리에 모델을 업로드하고, 새 모델을 기존 엔드포인트에 배포하고, 새 모델을 100으로 설정하는 것보다 더 많은 기술과 단계가 필요합니다. 트래픽의 %. Cloud DNS는 Google Cloud에서 안정적이고 확장 가능한 DNS(도메인 이름 시스템) 서비스를 제공할 수 있는 서비스입니다. Cloud DNS는 DNS 레코드를 관리하고 도메인 이름을 IP 주소로 확인하는 데 도움이 됩니다. 새 엔드포인트를 가리키도록 Cloud DNS를 업데이트하면 사용자 트래픽을 새 엔드포인트로 리디렉션하고 기존 애플리케이션이 중단되는 것을 방지할 수 있습니다. 그러나 새 엔드포인트를 만들고, 새 모델을 만들고, 이를 기본 버전으로 설정하고, Vertex AI Model Registry에 모델을 업로드하고, 새 모델을 새 엔드포인트에 배포하고, 새 엔드포인트를 가리키도록 Cloud DNS를 업데이트하려면 더 많은 비용이 필요합니다. 새 모델을 만들고, parentModel 매개변수를 현재 배포된 모델의 모델 ID로 설정하고, Vertex AI 모델 레지스트리에 모델을 업로드하고, 새 모델을 기존 엔드포인트에 배포하고, 새 모델을
트래픽 100%. 코드를 작성하고, 새 엔드포인트를 생성 및 구성하고, 새 모델을 생성 및 구성하고, Vertex AI 모델 레지스트리에 모델을 업로드하고, 모델을 새 엔드포인트에 배포하고, 새 엔드포인트를 가리키도록 Cloud DNS를 업데이트해야 합니다. 또한 이 옵션은 새로운 엔드포인트를 생성하므로 유지 관리 비용이 증가할 수 있습니다2.
* 옵션 B: 새 엔드포인트 생성, 새 모델 생성, parentModel 매개변수를 현재 배포된 모델의 모델 ID로 설정하고 이를 기본 버전으로 설정, 모델을 Vertex AI Model Registry에 업로드하고 새 모델을 새 엔드포인트를 사용하고 새 모델을 트래픽의 100%로 설정하려면 새 모델을 만들고 parentModel 매개변수를 현재 배포된 모델의 모델 ID로 설정하고 모델을 Vertex AI 모델 레지스트리에 업로드하고 배포하는 것보다 더 많은 기술과 단계가 필요합니다. 새 모델을 기존 끝점으로 설정하고 새 모델을 다음으로 설정합니다.
트래픽 100%. parentModel 매개변수는 새 모델 버전의 기반이 되는 모델의 모델 ID를 지정하는 매개변수입니다. parentModel 매개변수는 기존 모델의 설정과 메타데이터를 상속하고 모델 구성의 중복을 방지하는 데 도움이 될 수 있습니다. 기본 버전은 다른 버전이 지정되지 않은 경우 예측에 사용되는 모델 버전입니다. 기본 버전을 사용하면 예측 요청을 단순화하고 매번 모델 버전을 지정하지 않아도 됩니다. parentModel 파라미터를 현재 배포된 모델의 모델 ID로 설정하고 이를 기본 버전으로 설정하면 기존 모델을 기반으로 새로운 모델을 생성하고, 모델 버전을 지정하지 않고도 예측에 사용할 수 있습니다. 하지만 새 엔드포인트 생성, 새 모델 생성, parentModel 매개변수를 현재 배포된 모델의 모델 ID로 설정하고 이를 기본 버전으로 설정, 모델을 Vertex AI 모델 레지스트리에 업로드하고 새 모델을 새 모델에 배포 엔드포인트를 설정하고 새 모델을 트래픽의 100%로 설정하려면 새 모델을 생성하고 parentModel 매개변수를 현재 배포된 모델 ID로 설정하는 것보다 더 많은 기술과 단계가 필요합니다.
* 모델, 모델을 Vertex AI 모델 레지스트리에 업로드하고, 새 모델을 기존 엔드포인트에 배포하고, 새 모델을 트래픽의 100%로 설정합니다. 코드를 작성하고, 새 엔드포인트를 생성 및 구성하고, 새 모델을 생성 및 구성하고, Vertex AI 모델 레지스트리에 모델을 업로드하고, 모델을 새 엔드포인트에 배포해야 합니다. 또한 이 옵션은 새로운 엔드포인트를 생성하므로 유지 관리 비용이 증가할 수 있습니다2.
* 옵션 D: 새 모델을 생성하여 기본 버전으로 설정하고, Vertex AI Model Registry에 모델을 업로드하고, 기존 엔드포인트에 새 모델을 배포하면 기존 모델의 설정 및 메타데이터를 상속받을 수 없습니다. 오류가 발생하거나 성능이 저하될 수 있습니다. 기본 버전은 다른 버전이 지정되지 않은 경우 예측에 사용되는 모델 버전입니다. 기본 버전을 사용하면 예측 요청을 단순화하고 매번 모델 버전을 지정하지 않아도 됩니다.
새 모델을 기본 버전으로 설정하면 모델 버전을 지정하지 않고도 새 모델을 예측에 사용할 수 있습니다. 그러나 새 모델을 만들고 기본 버전으로 설정하고 Vertex AI 모델 레지스트리에 모델을 업로드하고 기존 엔드포인트에 새 모델을 배포하면 기존 모델의 설정과 메타데이터를 상속받을 수 없으며 다음과 같은 문제가 발생할 수 있습니다. 오류 또는 성능 저하. 코드를 작성하고, 새 모델을 생성 및 구성하고, Vertex AI 모델 레지스트리에 모델을 업로드하고, 기존 엔드포인트에 모델을 배포해야 합니다. 또한 이 옵션은 parentModel 매개변수를 현재 배포된 모델의 모델 ID로 설정하지 않으므로 기존 모델의 설정 및 메타데이터를 상속받지 못하고 모델 버전 간에 불일치 또는 충돌이 발생할 수 있습니다2.
참고자료:
* Google Cloud 자격증 준비: 머신러닝 엔지니어, 과정 3: 프로덕션 ML 시스템, 2주차: ML 예측 제공
* Google Cloud Professional Machine Learning Engineer 시험 가이드, 섹션 3: 프로덕션에서 ML 모델 확장, 3.1 프로덕션에 ML 모델 배포
* 공식 Google Cloud Certified Professional Machine Learning 엔지니어 학습 가이드, 6장:
프로덕션 ML 시스템, 섹션 6.2: ML 예측 제공
* 버텍스 AI
* 클라우드 DNS
