Contêineres pré-criados para inferência e explicação

A Vertex AI oferece imagens de contêiner do Docker executadas como contêineres pré-criados para disponibilizar inferências e explicações com artefatos de modelo treinados. Esses contêineres, que são organizados por framework de machine learning (ML) e versão do framework, fornecem servidores de inferência HTTP que podem ser usados para disponibilizar inferências com uma configuração mínima. Em muitos casos, usar um contêiner pré-criado é mais simples do que criar o próprio contêiner personalizado para inferência.

Neste documento, listamos os contêineres pré-criados para inferências e explicações e descrevemos como usá-los com artefatos de modelo criados usando a funcionalidade de treinamento personalizada da Vertex AI ou artefatos de modelo que você criou fora da Vertex AI.

Política e cronograma de suporte

A Vertex AI é compatível com cada versão de framework com base em uma programação para minimizar as vulnerabilidades de segurança. Consulte o cronograma da política de suporte para entender as implicações das datas de término e de fim da disponibilidade do suporte.

Imagens de contêiner disponíveis

Cada uma das imagens de contêiner a seguir está disponível em vários repositórios do Artifact Registry, que armazenam dados em vários locais. É possível usar qualquer um dos URIs de uma imagem ao realizar o treinamento personalizado. cada um deles fornece a mesma imagem de contêiner. Se você usar o console Google Cloud para criar um recurso Model, o console Google Cloud seleciona o URI que melhor corresponde ao local em que você está usando a Vertex AI para reduzir a latência.

TensorFlow

Ambiente de execução otimizado do TensorFlow

As imagens de contêiner a seguir usam o ambiente de execução otimizado do TensorFlow. Para mais informações, consulte Usar o ambiente de execução otimizado do TensorFlow.

PyTorch

scikit-learn

XGBoost

Usar um contêiner predefinido

É possível especificar um contêiner predefinido para inferência quando você criar um recurso TrainingPipeline personalizado que faça upload de um Model ou quando importar artefatos de modelo como um Model.

Para usar um desses contêineres predefinidos, salve seu modelo como um ou mais artefatos de modelo que atendam aos requisitos do contêiner pré-criado. Para mais informações, consulte Exportar artefatos de modelo para inferência.

Os notebooks a seguir demonstram como usar um contêiner pré-criado para veicular inferências.

O que você quer fazer?	Notebook
Treinar e exibir um modelo do TensorFlow usando um contêiner pré-criado	Treinamento personalizado e inferência on-line
Exibir um modelo do PyTorch usando um contêiner pré-criado	Como disponibilizar modelos de imagem do PyTorch com contêineres predefinidos na Vertex AI
Exibir um modelo de difusão estável usando um contêiner pré-criado	Implantar e hospedar um modelo de difusão estável na Vertex AI

Notebooks

A seguir

• Saiba como implantar um modelo em um endpoint para exibir inferências.