MIG의 크기 조절 요청 정보

이 문서에서는 관리형 인스턴스 그룹(MIG)의 크기 조절 요청이 작동하는 방식과 제한사항에 대해 설명합니다. MIG에 가상 머신(VM) 인스턴스를 추가하는 방법에 관한 자세한 내용은 MIG의 VM 추가 및 삭제를 참조하세요.

MIG 크기 조절 요청을 사용하여 여러 VM을 한 번에 만듭니다. 이 접근 방식은 다음과 같은 경우에 유용합니다.

  • 크기 조절 요청을 사용하면 Compute Engine에서 모든 리소스를 프로비저닝할 때 생성할 수 있는 부분적인 용량에 대한 요금이 청구되지 않습니다.

  • 크기 조절 요청은 flex-start 프로비저닝 모델(프리뷰)을 사용하므로 GPU와 같이 수요가 높은 리소스를 확보할 가능성이 높아집니다.

크기 조절 요청 작동 방식

다음 섹션에서는 MIG 크기 조절 요청의 작동 방식을 간략히 설명합니다.

생성 시

MIG 크기 조절 요청을 만들 때 다음 속성을 지정해야 합니다.

  • 만들 VM 수를 정의하려면 다음 속성 중 하나를 사용하세요.

    • resizeBy: 만들 VM 수입니다. MIG는 VM의 이름을 자동으로 생성합니다.

    • instanceNames: 만들 VM의 이름 목록입니다. MIG는 지정된 이름 수만큼 VM을 만듭니다. 이 속성은 프리뷰 버전이며 워크로드에 특정 VM 이름이 필요한 경우에 유용합니다.

  • requestedRunDuration: VM을 실행해야 하는 기간입니다. 기간은 10분~7일 사이여야 합니다. 실행 기간이 종료되면 MIG는 VM을 자동으로 삭제합니다. Cluster Director에서 제공하는 기능과 서비스를 사용하는 MIG에서 크기 조절 요청을 만들 때 이 속성은 선택사항입니다. 이러한 MIG에서 크기 조절 요청의 실행 기간을 지정하지 않으면 VM은 MIG에서 사용하는 예약이 종료될 때까지 실행됩니다.

생성 후

MIG 크기 조절 요청을 만들면 요청이 여러 상태를 거칩니다. 다음 다이어그램은 이러한 상태를 보여줍니다.

Compute Engine에서 크기 조절 요청을 설정할 수 있는 각 상태의 다이어그램

앞의 다이어그램에 표시된 상태는 다음과 같습니다.

  • CREATING: Compute Engine에서 크기 조절 요청을 수신하고 MIG의 대상 크기가 요청에 지정된 VM 수만큼 증가하며 MIG는 CREATING 상태의 관리형 인스턴스를 만듭니다. 이러한 관리형 인스턴스는 크기 조절 요청이 성공하면 MIG가 만드는 VM을 나타냅니다.

  • ACCEPTED: 요청이 수락되고 생성되었습니다. 기본 스케줄러 메커니즘인 동적 워크로드 스케줄러(DWS)는 리소스 가용성과 요청에 지정된 실행 기간을 기반으로 요청된 리소스의 생성을 예약합니다. 요청된 리소스의 할당량이 부족하거나 리소스를 일시적으로 사용할 수 없는 경우 DWS는 할당량이 충분해지고 리소스를 사용할 수 있을 때까지 요청을 유지합니다.

  • SUCCEEDED: MIG가 요청된 수의 VM을 한꺼번에 만들었음. VM은 지정된 실행 기간이 종료되어 MIG에서 삭제되거나 사용자가 VM을 삭제할 때까지 실행됩니다.

  • FAILED: 기술 오류로 인해 크기 조절 요청이 실패했고 Compute Engine이 요청된 VM 수만큼 MIG의 대상 크기를 줄임

  • CANCELLED: 사용자가 크기 조절 요청을 취소함. 크기 조절 요청을 취소하면 MIG가 요청된 리소스를 만들지 않습니다. 크기 조절 요청을 취소하면 Compute Engine은 요청된 VM 수만큼 MIG의 대상 크기를 줄이고 14일 후에 요청을 자동으로 삭제합니다. 원하는 경우 Compute Engine에서 자동으로 삭제하기 전에 크기 조절 요청을 삭제할 수 있습니다.

크기 조절 요청이 포함된 MIG를 삭제하면 MIG의 크기 조절 요청과 VM도 삭제됩니다. 하지만 MIG에서 크기 조절 요청을 처리하기 위해 VM을 만들 때 MIG를 삭제하면 Compute Engine은 MIG에서 요청된 수의 VM을 만들고 크기 조절 요청 상태가 SUCCEEDED로 전환될 때까지 기다렸다가 MIG를 삭제합니다.

제한사항

다음 섹션에서는 MIG 크기 조절 요청을 만들 때 적용되는 제한사항을 간략히 설명합니다.

크기 조절 요청

MIG 크기 조절 요청에는 다음과 같은 제한사항이 있습니다.

  • 크기 조절 요청은 다음 GPU 머신 유형만 가져오는 데 사용할 수 있습니다.

    • 영역 MIG의 경우 모든 GPU 머신 유형

    • 리전 MIG의 경우 A4 및 A3 Ultra를 제외한 모든 GPU 머신 유형

  • ACCEPTED 상태의 크기 조절 요청만 취소할 수 있습니다.

  • 크기 조절 요청이 성공(SUCCEEDED), 실패(FAILED), 취소(CANCELLED)된 후에만 크기 조절 요청을 삭제할 수 있습니다.

인스턴스 템플릿

MIG 크기 조절 요청을 만들려면 MIG의 인스턴스 템플릿이 다음을 준수해야 합니다.

MIG

크기 조절 요청을 만들려는 MIG에는 다음과 같은 제한사항이 적용됩니다.

요청된 실행 기간이 있는 GPU VM의 할당량

7일 이하의 사전 정의된 실행 시간 후 자동으로 삭제되도록 구성된 GPU VM은 선점형 또는 표준 배정 할당량 중 하나를 소비할 수 있습니다. 이 동작은 일시적이지만 중단되지 않은 워크로드의 배정 할당량 확보 가능성을 개선하는 데 도움이 되도록 고안되었습니다. 이 동작에 대한 자세한 내용은 GPU VM 및 선점형 배정 할당량을 참조하세요.

가격 책정

크기 조절 요청을 생성, 취소 또는 삭제하는 데는 비용이 들지 않습니다. 대신 다음과 같이 요금이 청구됩니다.

  • MIG가 요청된 수의 VM을 만들면 요금이 청구됩니다.

  • 다음 중 하나가 발생하면 청구가 중지됩니다.

    • MIG가 실행 기간이 종료되었을 때 VM을 자동으로 삭제합니다.

    • 사용자가 VM을 삭제합니다.

다음 단계