Impostare il numero minimo di istanze per i servizi

Questa pagina descrive come attivare le istanze inattive per un servizio configurando le istanze minime utilizzando il comportamento predefinito di scalabilità automatica di Cloud Run. Per scalare manualmente il servizio, consulta la sezione Scalabilità manuale.

Se hai bisogno di un maggiore controllo sul comportamento di scalabilità automatica del servizio, puoi impostare un numero minimo di istanze per evitare tempi di avvio lenti dei container e ridurre la latenza del servizio. Per i servizi Cloud Run, Cloud Run, per impostazione predefinita, scala il numero di istanze in base al numero di richieste in entrata.

Tuttavia, se il servizio richiede una latenza ridotta, soprattutto quando viene eseguito lo scale da zero istanze attive, puoi modificare questo comportamento predefinito specificando un numero minimo di istanze di container da mantenere in uso e pronte per gestire le richieste. Per ulteriori dettagli su questa ottimizzazione, consulta Suggerimenti generali per lo sviluppo.

Cloud Run rimuove le istanze che non gestiscono richieste (inattive). Con le istanze minime impostate, Cloud Run mantiene in esecuzione almeno il numero di istanze minime, anche se non gestiscono richieste. Le istanze attive superiori al numero min-instances potrebbero diventare inattive se non ricevono richieste.

Ad esempio, se min-instances è 10 e il numero di istanze attive è 0, il numero di istanze inattive è 10. Quando il numero di istanze attive aumenta fino a 6, il numero di istanze inattive diminuisce fino a 4.

Tieni presente che se un servizio non ha pubblicato traffico di recente, la metrica delle istanze attive può indicare che non sono attive istanze, anche se ne hai specificate una o più per le istanze minime.

Ruoli obbligatori

Per ottenere le autorizzazioni necessarie per configurare ed eseguire il deployment dei servizi Cloud Run, chiedi all'amministratore di concederti i seguenti ruoli IAM:

• Cloud Run Developer (roles/run.developer) sul servizio Cloud Run
• Utente service account (roles/iam.serviceAccountUser) sull'identità di servizio

Per un elenco di ruoli e autorizzazioni IAM associati a Cloud Run, consulta Ruoli IAM Cloud Run e Autorizzazioni IAM Cloud Run. Se il tuo servizio Cloud Run interagisce con le APIGoogle Cloud , come le librerie client Cloud, consulta la guida alla configurazione dell'identità del servizio. Per ulteriori informazioni sulla concessione dei ruoli, consulta Autorizzazioni di deployment e Gestire l'accesso.

Configura il numero minimo di istanze a livello di servizio

Per impostazione predefinita, le istanze di container hanno il numero minimo di istanze a livello di servizio disattivato, con un'impostazione di 0. Puoi modificare questo valore predefinito utilizzando la consoleGoogle Cloud , Google Cloud CLI o un file YAML:

gcloud run services update SERVICE --min MIN-VALUE

gcloud run deploy --image IMAGE_URL --min MIN-VALUE

curl -H "Content-Type: application/json" \
-H "Authorization: Bearer ACCESS_TOKEN" \
-X PATCH \
-d '{ "scaling": { "minInstanceCount": MIN-VALUE }}' \
https://run.googleapis.com/v2/projects/PROJECT_ID/locations/REGION/services/SERVICE?update_mask=scaling.minInstanceCount

Visualizzare le istanze minime a livello di servizio

Per visualizzare le impostazioni correnti delle istanze minime a livello di servizio per il tuo servizio Cloud Run:

Applicazione del numero minimo di istanze a livello di servizio anziché a livello di revisione

Puoi configurare le istanze minime a livello di servizio o di revisione. Google consiglia di applicare le istanze minime a livello di servizio ed evitare di combinare le istanze minime a livello di servizio e di revisione.

Se applichi il numero minimo di istanze a livello di revisione, le impostazioni entrano in vigore al momento del deployment della revisione. Se applichi questa funzionalità a livello di servizio, l'impostazione entra in vigore senza dover eseguire il deployment di una nuova revisione.

Revisioni taggate e istanze minime a livello di servizio

Le revisioni taggate vengono avviate, ma vengono conteggiate ai fini delle istanze minime a livello di servizio solo se fanno parte di una suddivisione del traffico.

Fatturazione

Le istanze mantenute in esecuzione utilizzando la funzionalità di istanze minime comportano costi di fatturazione. Poiché questi addebiti sono molto prevedibili, Google consiglia di acquistare uno sconto per impegno di utilizzo.

Istanze minime e fatturazione basata sulle istanze

Puoi configurare la fatturazione basata sulle istanze se hai bisogno di CPU al di fuori delle richieste.

Riavvii del numero minimo di istanze

Le istanze minime possono essere riavviate in qualsiasi momento.

Revisioni e numero minimo di istanze

Quando le istanze minime vengono impostate a livello di servizio, vengono distribuite a tutte le revisioni che gestiscono il traffico in proporzione alla suddivisione del traffico.

Quando il numero minimo di istanze è impostato a livello di revisione, le istanze minime vengono avviate ogni volta che la revisione viene citata in una suddivisione del traffico (anche allo 0%) o ha un tag di traffico assegnato.

Routing delle richieste con un numero minimo di istanze

Quando imposti le istanze minime, Cloud Run distribuisce le richieste in entrata in modo uniforme tra tutte le istanze di cui è stato eseguito il provisioning. Comprendere questo comportamento è importante per gestire i costi, soprattutto con la fatturazione basata sulle richieste o se intendi mantenere attive istanze hot spare inattive.

Se il numero minimo di istanze è impostato su un valore superiore a quello richiesto per il traffico tipico, molte istanze potrebbero diventare leggermente attive, elaborando ciascuna poche richieste. Ad esempio, se il tuo servizio richiede in genere 200 istanze per il carico di picco, ma le istanze minime sono configurate su 600, le richieste in entrata verranno distribuite su tutte le 600 istanze. Di conseguenza, molte di queste 600 istanze diventano in qualche modo attive, gestendo ciascuna una piccola parte del traffico, anziché circa 200 istanze altamente attive e le restanti 400 completamente inattive.

Per ottimizzare i costi (utilizzando un numero inferiore di istanze), imposta il numero minimo di istanze su un valore che corrisponda al numero effettivo di istanze necessarie per gestire il traffico tipico.

Inoltre, quando la scalabilità automatica esegue il provisioning di istanze aggiuntive al di sopra delle istanze minime configurate, Cloud Run preferisce instradare prima le richieste in entrata alle istanze minime configurate prima di inviare richieste alle istanze con scalabilità automatica. Con la fatturazione basata sulle richieste, questo routing preferenziale verso le istanze minime configurate riduce i costi riempiendo le istanze minime configurate prima di utilizzare le istanze con scalabilità automatica. Tieni presente che questo routing preferenziale può anche comportare un utilizzo maggiore delle istanze minime configurate rispetto alle istanze con scalabilità automatica, a seconda della quantità di traffico.

Configura il numero minimo di istanze a livello di revisione

Qualsiasi modifica alla configurazione comporta la creazione di una nuova revisione. Anche le revisioni successive riceveranno automaticamente questa impostazione di configurazione, a meno che tu non apporti aggiornamenti espliciti per modificarla.

Per impostazione predefinita, le istanze container hanno min-instances disattivato, con un'impostazione di 0. Puoi modificare questo valore predefinito utilizzando la console Google Cloud , Google Cloud CLI o un file YAML quando crei un nuovo servizio o esegui il deployment di una nuova revisione:

gcloud run services update SERVICE --min-instances MIN-VALUE

gcloud run deploy --image IMAGE_URL --min-instances MIN-VALUE

resource "google_cloud_run_v2_service" "default" {
  name     = "cloudrun-service-min-instances"
  location = "us-central1"

  deletion_protection = false # set to "true" in production

  template {
    containers {
      image = "us-docker.pkg.dev/cloudrun/container/hello"
    }
    scaling {
      # Min instances
      min_instance_count = 1
    }
  }
}

Visualizza il numero minimo di istanze a livello di revisione

Per visualizzare le impostazioni correnti del numero minimo di istanze a livello di revisione per il tuo servizio Cloud Run:

Utilizzo del numero minimo o massimo di istanze a livello di servizio e di revisione

La tabella seguente mostra il comportamento se combini le istanze minime a livello di servizio e le istanze minime o massime a livello di revisione:

Utilizzo del numero minimo di istanze a livello di servizio con suddivisione del traffico

Se utilizzi la suddivisione del traffico, il numero minimo di istanze a livello di servizio viene suddiviso tra le revisioni in base alla proporzione della suddivisione del traffico. Ad esempio, se le istanze minime a livello di servizio = 10, una suddivisione del traffico 50/50 alloca 5 istanze minime a livello di servizio a ogni revisione.

La seguente tabella mostra alcuni scenari di configurazione di esempio: