Utilizzare le prenotazioni con la formazione

Questo documento spiega come utilizzare le prenotazioni di Compute Engine per avere la certezza che i tuoi job di addestramento personalizzati dispongano delle risorse di macchina virtuale (VM) necessarie per l'esecuzione.

Le prenotazioni sono una funzionalità di Compute Engine. Contribuiscono a garantire che tu disponga delle risorse disponibili per creare VM con lo stesso hardware (memoria e vCPU) e risorse facoltative (CPU, GPU, TPU e dischi SSD locali) ogni volta che ne hai bisogno.

Quando crei una prenotazione, Compute Engine verifica che la capacità richiesta sia disponibile nella zona specificata. In questo caso, Compute Engine riserva le risorse, crea la prenotazione e si verifica quanto segue:

  • Puoi utilizzare immediatamente le risorse riservate, che rimangono disponibili finché non elimini la prenotazione.
  • Le risorse prenotate ti vengono addebitate alla stessa tariffa on demand delle VM in esecuzione, inclusi eventuali sconti applicabili, fino all'eliminazione della prenotazione. Una VM che utilizza una prenotazione non comporta addebiti separati. Ti vengono addebitati solo i costi per le risorse al di fuori della prenotazione, ad esempio dischi o indirizzi IP. Per saperne di più, consulta i prezzi delle prenotazioni.

Limitazioni e requisiti

Quando utilizzi le prenotazioni Compute Engine con Vertex AI, tieni presente le seguenti limitazioni e requisiti:

  • Vertex AI può utilizzare le prenotazioni solo per CPU (anteprima), VM GPU o TPU (anteprima).
  • Vertex AI non può utilizzare le prenotazioni di VM a cui sono collegati manualmente dischi SSD locali.
  • L'utilizzo delle prenotazioni di Compute Engine con Vertex AI è supportato solo per l'addestramento personalizzato e l'inferenza e per Vertex AI Workbench (anteprima).
  • Per utilizzare una prenotazione, le proprietà VM di una prenotazione devono corrispondere esattamente al tuo carico di lavoro Vertex AI. Ad esempio, se una prenotazione specifica un tipo di macchina a2-ultragpu-8g, il carico di lavoro Vertex AI può utilizzare la prenotazione solo se utilizza anche un tipo di macchina a2-ultragpu-8g. Consulta i requisiti.
  • Per utilizzare una prenotazione condivisa di VM GPU o TPU, devi utilizzarla tramite il progetto proprietario o un progetto consumer con cui la prenotazione è condivisa. Consulta Come funzionano le prenotazioni condivise.
  • Per supportare gli aggiornamenti regolari dei deployment di Vertex AI, ti consigliamo di aumentare il numero di VM di almeno una VM aggiuntiva per ogni deployment simultaneo.

  • I seguenti servizi e funzionalità non sono supportati quando utilizzi le prenotazioni di Compute Engine con l'addestramento Vertex AI:

Fatturazione

Quando utilizzi le prenotazioni Compute Engine, ti vengono addebitati i seguenti costi:

  • Prezzi di Compute Engine per le risorse di Compute Engine, inclusi eventuali sconti per impegno di utilizzo (CUD) applicabili. Consulta la pagina Prezzi di Compute Engine.
  • Tariffe di gestione dell'addestramento personalizzato di Vertex AI oltre all'utilizzo dell'infrastruttura. Consulta la sezione Prezzi dei modelli addestrati personalizzati.

Prima di iniziare

Consenti l'utilizzo di una prenotazione

Prima di utilizzare una prenotazione di CPU, VM GPU o TPU, devi impostare le relative norme di condivisione per consentire a Vertex AI di utilizzare la prenotazione. Per farlo, utilizza uno dei seguenti metodi:

Consenti il consumo durante la creazione di una prenotazione

Quando crei una prenotazione per un singolo progetto o condivisa di VM GPU, puoi consentire a Vertex AI di utilizzare la prenotazione nel seguente modo:

  • Se utilizzi la console Google Cloud , nella sezione Servizi Google Cloud, seleziona Condividi prenotazione.
  • Se utilizzi Google Cloud CLI, includi il flag --reservation-sharing-policy impostato su ALLOW_ALL.
  • Se utilizzi l'API REST, nel corpo della richiesta includi il campo serviceShareType impostato su ALLOW_ALL.

Consenti il consumo in una prenotazione esistente

Puoi modificare una prenotazione creata automaticamente di VM GPU o TPU per una prenotazione futura solo dopo l'ora di inizio della prenotazione.

Per consentire a Vertex AI di utilizzare una prenotazione esistente, utilizza uno dei seguenti metodi:

Verificare che una prenotazione venga utilizzata

Per verificare che la prenotazione venga utilizzata, consulta la sezione Verifica il consumo della prenotazione nella documentazione di Compute Engine.

Creare un job di addestramento personalizzato con una prenotazione

Utilizza l'API REST per creare un job di addestramento personalizzato che utilizza una prenotazione Compute Engine di VM GPU.

REST

Prima di utilizzare i dati della richiesta, apporta le seguenti sostituzioni:

  • LOCATION: la regione in cui verrà eseguito il container o il pacchetto Python.
  • PROJECT_ID: il progetto in cui è stata creata la prenotazione. Per utilizzare una prenotazione condivisa da un altro progetto, devi condividerla con quel progetto. Per saperne di più, vedi Modificare i progetti consumer in una prenotazione condivisa.
  • JOB_NAME: obbligatorio. Un nome visualizzato per CustomJob.
  • MACHINE_TYPE: il tipo di macchina da utilizzare per il job. La sua impostazione predefinita è n1-standard-2. Per ulteriori informazioni sui tipi di macchine supportati, vedi Configurare le risorse di computing per l'addestramento personalizzato.
  • ACCELERATOR_TYPE: il tipo di acceleratore da collegare alla macchina. Per saperne di più sul tipo di GPU supportato da ciascun tipo di macchina, consulta GPU per carichi di lavoro di calcolo.
  • ACCELERATOR_COUNT: il numero di acceleratori da collegare alla macchina.
  • Definisci il job di addestramento personalizzato:

    • RESERVATION_AFFINITY_TYPE: deve essere ANY, SPECIFIC_RESERVATION o NONE.

      • ANY significa che le VM del tuo customJob possono utilizzare automaticamente qualsiasi prenotazione con proprietà corrispondenti.
      • SPECIFIC_RESERVATION indica che le VM del tuo customJob possono utilizzare solo una prenotazione che le VM hanno come target specifico in base al nome.
      • NONE significa che le VM del tuo customJob non possono utilizzare nessuna prenotazione. La specifica di NONE ha lo stesso effetto dell'omissione di una specifica di affinità di prenotazione.
    • ZONE: la zona in cui è stata creata la prenotazione.
    • RESERVATION_NAME: il nome della prenotazione.
    • DISK_TYPE: (Facoltativo). Il tipo di disco di avvio da utilizzare per il job, pd-standard (impostazione predefinita) o pd-ssd. Scopri di più sui tipi di disco.
    • DISK_SIZE: (Facoltativo). Le dimensioni in GB del disco di avvio da utilizzare per il job. Il valore predefinito è 100.
    • REPLICA_COUNT: il numero di repliche dei worker da utilizzare. Nella maggior parte dei casi, imposta questo valore su 1 per il primo pool di worker.
    • Se la tua applicazione di addestramento viene eseguita in un container personalizzato, specifica quanto segue:
      • CUSTOM_CONTAINER_IMAGE_URI: l'URI di un'immagine container in Artifact Registry o Docker Hub da eseguire su ogni replica worker.
      • CUSTOM_CONTAINER_COMMAND: (Facoltativo). Il comando da richiamare all'avvio del container. Questo comando esegue l'override dell'entrypoint predefinito del container.
      • CUSTOM_CONTAINER_ARGS: (Facoltativo). Gli argomenti da passare all'avvio del container.
    • Se la tua applicazione di addestramento è un pacchetto Python eseguito in un container predefinito, specifica quanto segue:
      • EXECUTOR_IMAGE_URI: l'URI dell'immagine del container che esegue il codice fornito. Consulta i container predefiniti disponibili per l'addestramento.
      • PYTHON_PACKAGE_URIS: elenco separato da virgole di URI di Cloud Storage che specificano i file del pacchetto Python, ovvero il programma di addestramento e i rispettivi pacchetti dipendenti. Il numero massimo di URI dei pacchetti è 100.
      • PYTHON_MODULE: il nome del modulo Python da eseguire dopo l'installazione dei pacchetti.
      • PYTHON_PACKAGE_ARGS: (Facoltativo). Argomenti della riga di comando da passare al modulo Python.
    • TIMEOUT: (Facoltativo). Il tempo di esecuzione massimo per il job.
  • Specifica LABEL_NAME e LABEL_VALUE per le etichette che vuoi applicare a questo job personalizzato.

Metodo HTTP e URL: 

POST https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/customJobs

Corpo JSON della richiesta: 

{
  "displayName": "JOB_NAME",
  "jobSpec": {
    "workerPoolSpecs": [
      {
        "machineSpec": {
          "machineType": "MACHINE_TYPE",
          "acceleratorType": "ACCELERATOR_TYPE",
          "acceleratorCount": ACCELERATOR_COUNT,
          "reservationAffinity": {
            "reservationAffinityType": "RESERVATION_AFFINITY_TYPE",
            "key": "compute.googleapis.com/reservation-name",
            "values": [
              "projects/PROJECT_ID/zones/ZONE/reservations/RESERVATION_NAME"
            ]
          },
        },
        "replicaCount": REPLICA_COUNT,
        "diskSpec": {
          "bootDiskType": DISK_TYPE,
          "bootDiskSizeGb": DISK_SIZE
        },

        // Union field task can be only one of the following:
        "containerSpec": {
          "imageUri": CUSTOM_CONTAINER_IMAGE_URI,
          "command": [
            CUSTOM_CONTAINER_COMMAND
          ],
          "args": [
            CUSTOM_CONTAINER_ARGS
          ]
        },
        "pythonPackageSpec": {
          "executorImageUri": EXECUTOR_IMAGE_URI,
          "packageUris": [
            PYTHON_PACKAGE_URIS
          ],
          "pythonModule": PYTHON_MODULE,
          "args": [
            PYTHON_PACKAGE_ARGS
          ]
        }
        // End of list of possible types for union field task.
      }
      // Specify one workerPoolSpec for single replica training, or multiple workerPoolSpecs
      // for distributed training.
    ],
    "scheduling": {
      "timeout": TIMEOUT
    }
  },
  "labels": {
    LABEL_NAME_1": LABEL_VALUE_1,
    LABEL_NAME_2": LABEL_VALUE_2
  }
}

Per inviare la richiesta, scegli una di queste opzioni:

curl

Salva il corpo della richiesta in un file denominato request.json, quindi esegui il comando seguente: 

curl -X POST \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     -H "Content-Type: application/json; charset=utf-8" \
     -d @request.json \
     "https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/customJobs"

PowerShell

Salva il corpo della richiesta in un file denominato request.json, quindi esegui il comando seguente: 

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method POST `
    -Headers $headers `
    -ContentType: "application/json; charset=utf-8" `
    -InFile request.json `
    -Uri "https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/customJobs" | Select-Object -Expand Content

La risposta contiene informazioni sulle specifiche e sul TRAININGPIPELINE_ID.

Passaggi successivi