Contenedores prediseñados para inferencias y explicaciones

Vertex AI proporciona imágenes de contenedores Docker que se ejecutan como contenedores precompilados para ofrecer inferencias y explicaciones de artefactos de modelos entrenados. Estos contenedores, que se organizan por framework de aprendizaje automático (ML) y versión del framework, proporcionan servidores de inferencia HTTP que puedes usar para ofrecer inferencias con una configuración mínima. En muchos casos, usar un contenedor prediseñado es más sencillo que crear tu propio contenedor personalizado para la inferencia.

En este documento se enumeran los contenedores precompilados para inferencias y explicaciones, y se describe cómo usarlos con artefactos de modelo que hayas creado con la función de entrenamiento personalizado de Vertex AI o con artefactos de modelo que hayas creado fuera de Vertex AI.

Política y horario de asistencia

Vertex AI admite cada versión del framework según una programación para minimizar las vulnerabilidades de seguridad. Consulta la programación de la política de asistencia para conocer las implicaciones de las fechas de fin de la asistencia y de la disponibilidad.

Imágenes de contenedor disponibles

Cada una de las siguientes imágenes de contenedor está disponible en varios repositorios de Artifact Registry, que almacenan datos en varias ubicaciones. Puedes usar cualquiera de los URIs de una imagen cuando realices un entrenamiento personalizado. Todos proporcionan la misma imagen de contenedor. Si usas la Google Cloud consola para crear un recurso Model, la consola Google Cloud selecciona el URI que mejor se adapte a la ubicación en la que estás usando Vertex AI para reducir la latencia.

TensorFlow

Entorno de ejecución de TensorFlow optimizado

Las siguientes imágenes de contenedor usan el entorno de ejecución de TensorFlow optimizado. Para obtener más información, consulta Usar el entorno de ejecución de TensorFlow optimizado.

PyTorch

scikit‑learn

XGBoost

Usar un contenedor prediseñado

Puedes especificar un contenedor prediseñado para la inferencia cuando creas un recurso TrainingPipeline personalizado que sube un Model o cuando importas artefactos de modelo como un Model.

Para usar uno de estos contenedores precompilados, debes guardar tu modelo como uno o varios artefactos de modelo que cumplan los requisitos del contenedor precompilado. Para obtener más información, consulta Exportar artefactos de modelos para la inferencia.

En los siguientes cuadernos se muestra cómo usar un contenedor prediseñado para ofrecer inferencias.

¿Qué quieres hacer?	Cuaderno
Entrenar y servir un modelo de TensorFlow con un contenedor prediseñado	Entrenamiento personalizado e inferencia online
Servir un modelo de PyTorch con un contenedor prediseñado	Servir modelos de imágenes de PyTorch con contenedores precompilados en Vertex AI
Servir un modelo de Stable Diffusion con un contenedor prediseñado	Desplegar y alojar un modelo de Stable Diffusion en Vertex AI

Notebooks

Siguientes pasos

• Consulta cómo desplegar un modelo en un endpoint para ofrecer inferencias.