Visão geral da criação de uma instância com GPUs anexadas

O Compute Engine fornece unidades de processamento gráfico (GPUs, na sigla em inglês) que podem ser adicionadas às máquinas virtuais (VMs). É possível usar essas GPUs para acelerar cargas de trabalho específicas nas suas VMs, como aprendizado de máquina e processamento de dados.

Neste documento, você terá uma visão geral das etapas necessárias para criar uma VM com GPUs anexadas.

Para mais informações sobre GPUs no Compute Engine, consulte Sobre GPUs.

Selecione o modelo da GPU

Para ver uma lista dos modelos de GPU disponíveis, consulte Plataformas de GPU. Anote também o tipo de máquina aceito pelo modelo de GPU selecionado.

Para cada modelo, também pode ser útil revisar o seguinte:

Limitações

Além das restrições para todas as VMs com GPUs, cada série de máquinas com GPUs anexadas tem as seguintes limitações:

VMs A4

VMs A3 Ultra

VMs A3 Mega

VMs A3 de alto desempenho

  • Só é possível solicitar capacidade usando as opções de provisionamento compatíveis para um tipo de máquina A3 High.
  • Você não recebe descontos por uso prolongado e descontos por compromisso de uso flexível no caso de VMs que usam um tipo de máquina A3 High.
  • Só é possível usar um tipo de máquina A3 High em determinadas regiões e zonas.
  • Não é possível usar discos permanentes regionais em uma VM que usa um tipo de máquina A3 High.
  • O tipo de máquina A3 High só está disponível na plataforma de CPU Sapphire Rapids.
  • Não é possível mudar o tipo de máquina de uma VM para um tipo de máquina A3 High. Só é possível criar novas VMs A3-high. Depois de criar uma VM usando um tipo de máquina A3 High, não é possível mudar o tipo de máquina.
  • Os tipos de máquina A3 High não oferecem suporte a locatário único.
  • Não é possível executar sistemas operacionais Windows em um tipo de máquina A3 High.
  • Para os tipos de máquina a3-highgpu-1g, a3-highgpu-2g e a3-highgpu-4g, as seguintes limitações se aplicam:
    • Para esses tipos de máquina, é necessário criar VMs usando VMs do Spot ou um recurso que use o Dynamic Workload Scheduler (DWS), como solicitações de redimensionamento em um MIG. Para instruções detalhadas sobre essas opções, consulte o seguinte:
    • Não é possível usar o Hyperdisk Balanced com estes tipos de máquina.
    • Não é possível criar reservas.
    Se você tentar criar uma VM usando o provisionamento padrão ou tentar criar uma reserva para esses tipos de máquina, vai receber uma mensagem de erro.

VMs A3 de borda

VMs A2 padrão

  • Só é possível solicitar capacidade usando as opções de provisionamento compatíveis para um tipo de máquina padrão A2.
  • Você não recebe descontos por uso prolongado e descontos por compromisso de uso flexível para VMs que usam um tipo de máquina A2 padrão.
  • Só é possível usar um tipo de máquina A2 padrão em determinadas regiões e zonas.
  • Os tipos de máquina A2 padrão só estão disponíveis na plataforma Cascade Lake.
  • Se a VM usa um tipo de máquina padrão A2, só é possível trocar esse tipo A2 padrão por outro tipo A2 padrão. Não é possível mudar para outro tipo de máquina. Para mais informações, consulte Modificar VMs otimizadas para aceleradores.
  • Você não pode usar o sistema operacional Windows com tipos de máquina A2 <codea2-megagpu-16g< code="" dir="ltr" translate="no">. Ao usar sistemas operacionais Windows, escolha um tipo de máquina diferente do padrão A2.</codea2-megagpu-16g<>
  • Não é possível fazer um formato rápido dos SSDs locais anexados em VMs do Windows que usam tipos de máquina padrão A2. Para formatar esses SSDs locais, é preciso usar o utilitário diskpart e especificar format fs=ntfs label=tmpfs.
  • Os tipos de máquina A2 padrão não oferecem suporte a locatário único.

VMs A2 ultra

  • Só é possível solicitar capacidade usando as opções de provisionamento compatíveis para um tipo de máquina A2 Ultra.
  • Você não recebe descontos por uso prolongado e descontos por compromisso de uso flexível para VMs que usam um tipo de máquina A2 Ultra.
  • Você só pode usar um tipo de máquina A2 ultra em determinadas regiões e zonas.
  • Os tipos de máquina A2 ultra só estão disponíveis na plataforma Cascade Lake.
  • Se a VM usa um tipo de máquina ultra A2, não é possível mudar o tipo de máquina. Se você precisar usar outro tipo de máquina ultra A2 ou qualquer outro tipo de máquina, crie uma nova VM.
  • Não é possível trocar nenhum tipo de máquina por um tipo de máquina A2 ultra. Se você precisar de uma VM que use uma série de máquinas A2 ultra, crie uma nova VM.
  • Não é possível fazer um formato rápido dos SSDs locais anexados em VMs do Windows que usam tipos de máquina A2 ultra. Para formatar esses SSDs locais, é preciso usar o utilitário diskpart e especificar format fs=ntfs label=tmpfs.

VMs G2

  • Só é possível solicitar capacidade usando as opções de provisionamento compatíveis para um tipo de máquina G2.
  • Você não recebe descontos por uso prolongado e descontos por compromisso de uso flexível para VMs que usam um tipo de máquina G2.
  • Só é possível usar um tipo de máquina G2 em determinadas regiões e zonas.
  • Os tipos de máquina G2 só estão disponíveis na plataforma Cascade Lake.
  • O disco permanente padrão (pd-standard) não é compatível com VMs que usam tipos de máquina padrão G2. Para saber quais são os tipos de disco compatíveis, consulte Tipos de disco compatíveis com a G2.
  • Não é possível criar GPUs de várias instâncias nos tipos de máquina G2.
  • Se precisar mudar o tipo de máquina de uma VM G2, consulte Modificar VMs otimizadas para aceleradores.
  • Não é possível usar o Deep Learning VM Images como discos de inicialização para suas VMs que usam os tipos de máquina G2.
  • O driver padrão atual para o Container-Optimized OS não oferece suporte a GPUs L4 em execução nos tipos de máquina G2. O Container-Optimized OS também é compatível apenas com um conjunto selecionado de drivers. Se você quiser usar o Container-Optimized OS em tipos de máquina G2, leia as seguintes observações:
    • Use uma versão do Container-Optimized OS que seja compatível com a versão mínima recomendada do driver NVIDIA ou 525.60.13. Para mais informações, consulte as Notas de lançamento do Container-Optimized OS.
    • Ao instalar o driver, especifique a versão mais recente disponível que funciona para as GPUs L4. Por exemplo, sudo cos-extensions install gpu -- -version=525.60.13.
  • Use a CLI do Google Cloud ou REST para criar VMs G2 nos seguintes cenários:
    • Você quer especificar valores de memória personalizados.
    • Você quer personalizar o número de núcleos de CPU visíveis.

VMs N1+GPU

Para saber mais sobre as limitações de instâncias N1 com GPUs, consulte recursos da série de máquinas N1 e GPUs da série de máquinas N1.

Escolher um sistema operacional

Se você estiver usando GPUs para o aprendizado de máquina, use um dos seguintes sistemas operacionais:

  • Imagens otimizadas para cargas de trabalho de IA. É possível usar imagens do Ubuntu e Rocky, que estão disponíveis em versões otimizadas para aceleradores com drivers e o kit de ferramentas CUDA pré-instalados. Consulte Imagens do SO na documentação do Hypercomputer de IA.
  • Imagens de VM de aprendizado profundo. Cada VM de aprendizado profundo tem uma ferramenta de instalação de driver de GPU e inclui pacotes como o TensorFlow e o PyTorch. Você também pode usar uma VM de aprendizado profundo para cargas de trabalho gerais de GPU. Para saber mais sobre as imagens disponíveis e os pacotes instalados nelas, consulte Como escolher uma imagem.

Como alternativa, use qualquer imagem pública ou personalizada. Algumas imagens podem exigir um driver exclusivo ou ter um processo de instalação fora do escopo da documentação do Compute Engine. Para ajudar a identificar quais drivers são adequados para a imagem do SO, consulte Como instalar drivers de GPU.

Verificar a cota de GPU

Para proteger os usuários e sistemas do Compute Engine, novos projetos têm uma cota global de GPU, o que limita o número total de GPUs que podem ser criadas em qualquer zona compatível. Para analisar a cota de GPU, consulte Cota de GPU.

Se você precisar de uma cota extra de GPU, solicite um aumento de cota. Quando você solicita cota de GPU, precisa pedir uma cota para os tipos de GPU que quer criar em cada região e outra cota global para o número total de GPUs de todos os tipos em todas as zonas.

Se seu projeto tiver um histórico de faturamento estabelecido, ele receberá cota automaticamente depois que você enviar a solicitação.

VMs de GPU e cotas de alocação preemptivas

As VMs que usam o modelo de provisionamento padrão geralmente não podem usar cotas de alocação preemptivas. As cotas preemptivas são para cargas de trabalho temporárias e geralmente estão mais disponíveis. Se o projeto não tiver cota preemptiva e você nunca tiver solicitado, todas as VMs no projeto vão consumir as cotas de alocação padrão.

Se você solicitar a cota de alocação preemptiva, as VMs que usam o modelo de provisionamento padrão precisarão atender a todos os critérios a seguir para consumir a cota de alocação preemptiva:

Ao consumir a alocação preemptiva para cargas de trabalho de GPU com limite de tempo, você pode se beneficiar do tempo de execução ininterrupto e da alta disponibilidade da cota de alocação preemptiva. Para mais informações, consulte Cotas preemptivas

Criar uma VM com GPUs anexadas

Para criar uma VM com GPUs anexadas, siga estas etapas:

  1. Crie a VM. O método usado para criar uma VM depende do modelo de GPU selecionado.

  2. Para que a VM use a GPU, é necessário instalar o driver da GPU na VM. Se você ativou uma estação de trabalho virtual NVIDIA RTX (anteriormente conhecida como NVIDIA GRID), instale um driver para a estação de trabalho virtual.

A seguir