Implantar um modelo usando o console do Google Cloud

No Google Cloud console, é possível criar um endpoint público e implantar um modelo nele.

Os modelos podem ser implantados na página de previsões on-line ou no Model Registry.

Implantar um modelo na página "Previsão on-line"

Na página "Previsão on-line", é possível criar um endpoint e implantar um ou mais modelos da seguinte maneira:

1. No Google Cloud console, na seção Vertex AI, acesse a página Previsão on-line.

   Acessar a página "Previsão on-line"

2. Clique em add Criar.

3. No painel Novo endpoint:

   1. Insira o Nome do endpoint.

   2. Selecione Padrão como o tipo de acesso.

   3. Para criar um endpoint público dedicado (não compartilhado), marque a caixa de seleção Ativar DNS dedicado.

   4. Clique em Continuar.

4. No painel Configurações do modelo:

   1. Selecione o modelo na lista suspensa.

   2. Escolha a versão do modelo na lista suspensa.

   3. Insira a porcentagem da Divisão de tráfego do modelo.

   4. Clique em Concluído.

   5. Repita essas etapas para outros modelos a serem implantados.

Implantar um modelo na página "Model Registry"

Na página do registro de modelos, é possível implantar um modelo em um ou mais endpoints novos ou atuais da seguinte maneira:

1. No console Google Cloud , na seção "Vertex AI", acesse a página Modelos.

   Acessar a página "Modelos"

2. Clique no nome e no código da versão do modelo que você quer implantar para abrir a página de detalhes.

3. Selecione a guia Implantar e testar.

   Caso seu modelo já esteja implantado em um endpoint, o endpoint estará listado na seção Implantar seu modelo.

4. Clique em Implantar no endpoint.

5. Para implantar o modelo em um novo endpoint:

   1. Selecione radio_button_checkedCriar novo endpoint.
   2. Dê um nome ao novo endpoint.
   3. Para criar um endpoint público dedicado (não compartilhado), marque a caixa de seleção Ativar DNS dedicado.
   4. Clique em Continuar.

   Para implantar o modelo em um endpoint atual, faça o seguinte:

   1. Selecione radio_button_checkedAdicionar a um endpoint atual.
   2. Selecione o endpoint na lista suspensa.
   3. Clique em Continuar.

   É possível implantar vários modelos em um endpoint ou implantar o mesmo modelo em vários endpoints.

6. Se você implantar o modelo em um endpoint atual que tem um ou mais modelos implantados, é necessário atualizar a porcentagem de divisão de tráfego do modelo que você está implantando, bem como a dos modelos já implantados para que todas as porcentagens totalizem 100%.

7. Se você estiver implantando seu modelo em um novo endpoint, aceite 100 para a divisão de tráfego. Caso contrário, ajuste os valores de divisão de tráfego para todos os modelos no endpoint para que totalizem 100.

8. Insira o número mínimo de nós de computação que você quer fornecer ao modelo.

   Esse é o número de nós que precisam estar disponíveis para o modelo o tempo todo.

   Você é cobrado pelos nós usados, seja para processar a carga de inferência ou por nós de espera (mínimo), mesmo sem tráfego de inferência. Consulte a página de preços.

   O número de nós de computação pode aumentar se for necessário para processar o tráfego de inferência, mas nunca ultrapassa o número máximo de nós.

9. Para usar o escalonamento automático, insira o número máximo de nós de computação que você quer que a Vertex AI escalone verticalmente.

10. Selecione o Tipo de máquina.

    Recursos maiores de máquina aumentam o desempenho da inferência e os custos. Compare os tipos de máquina disponíveis.

11. Selecione um Tipo de acelerador e uma Contagem de aceleradores.

    Se você ativou o uso do acelerador ao importar ou criar o modelo, essa opção será exibida.

    Para ver a contagem de aceleradores, consulte a tabela de GPUs para verificar se há números válidos de GPUs que você pode usar com cada tipo de máquina de CPU. A contagem de aceleradores se refere ao número de aceleradores por nó, e não ao número total de aceleradores na sua implantação.

12. Se você quiser usar uma conta de serviço personalizada na implantação, selecione uma conta de serviço no menu suspenso Conta de serviço.

13. Saiba como mudar as configurações padrão para a geração de registros de inferência.

14. Clique em Concluído no modelo. Quando todas as porcentagens de Divisão de tráfego estiverem corretas, clique em Continuar.

    A região onde seu modelo é implantado é exibida. Precisa ser a região em que você criou o modelo.

15. Clique em Implantar para implantar o modelo no endpoint.

A seguir

• Saiba como receber uma inferência on-line.
• Saiba como mudar as configurações padrão para a geração de registros de inferência.