Questa pagina descrive come pianificare le esportazioni dei dati di Firestore in modalità Datastore. Per eseguire le esportazioni in base a una pianificazione, ti consigliamo di utilizzare Cloud Run Functions e Cloud Scheduler. Crea una Cloud Function che avvii le esportazioni e utilizza Cloud Scheduler per eseguirla.
Prima di iniziare
Prima di pianificare le esportazioni di dati, devi completare le seguenti attività:
- Abilita la fatturazione per il tuo progetto Google Cloud . Solo Google Cloud i progetti con la fatturazione abilitata possono utilizzare la funzionalità di esportazione e importazione.
- Crea un bucket Cloud Storage in una località vicina alla posizione del database in modalità Datastore. Le operazioni di esportazione richiedono un bucket Cloud Storage di destinazione. Non puoi utilizzare un bucket con pagamento a carico del richiedente per le operazioni di esportazione.
Crea una Cloud Function e un job Cloud Scheduler
Segui questi passaggi per creare una Cloud Function che avvii le esportazioni di dati e un job Cloud Scheduler per chiamare la funzione:
Crea una Cloud Function datastore_export
-
Vai alla pagina Cloud Functions nella console Google Cloud :
- Fai clic su Crea funzione.
- Inserisci un nome funzione, ad esempio
datastoreExport
. - In Trigger, seleziona Cloud Pub/Sub. Cloud Scheduler utilizza l'argomento Pub/Sub per chiamare la funzione.
- Nel campo Argomento, seleziona Crea un argomento. Inserisci un nome per
l'argomento Pub/Sub, ad esempio
startDatastoreExport
. Prendi nota del nome dell'argomento, in quanto ti servirà per creare il job Cloud Scheduler. - In Codice sorgente, seleziona Editor incorporato.
- Nel menu a discesa Runtime, seleziona Python 3.7.
- Inserisci il seguente codice per
main.py
: - In
requirements.txt
, aggiungi la seguente dipendenza: - In Entry point (Punto di ingresso), inserisci
datastore_export
, il nome della funzione inmain.py
. - Fai clic su Esegui il deployment per eseguire il deployment della Cloud Function.
Configurare le autorizzazioni di accesso
Successivamente, concedi alla funzione Cloud Function l'autorizzazione per avviare le operazioni di esportazione e scrivere nel bucket Cloud Storage.
Questa funzione Cloud utilizza il account di servizio predefinito del tuo progetto per autenticare e autorizzare le operazioni di esportazione. Quando crei un progetto, viene creato un account di servizio predefinito con il seguente nome:
project_id@appspot.gserviceaccount.com
Questo account di servizio deve disporre dell'autorizzazione per avviare le operazioni di esportazione e per scrivere nel bucket Cloud Storage. Per concedere queste autorizzazioni, assegna i seguenti ruoli IAM al account di servizio predefinito:
Cloud Datastore Import Export Admin
- Ruolo
Storage Object User
nel bucket
Puoi utilizzare Google Cloud CLI per assegnare questi ruoli. Puoi accedere a questo strumento da Cloud Shell nella console: Google Cloud
Avvia Cloud Shell
-
Assegna il ruolo Cloud Datastore Import Export Admin. Sostituisci project_id ed esegui questo comando:
gcloud projects add-iam-policy-binding project_id \ --member serviceAccount:project_id@appspot.gserviceaccount.com \ --role roles/datastore.importExportAdmin
-
Assegna il ruolo Utente oggetti Storage al tuo bucket. Sostituisci bucket_name e project_id ed esegui il seguente comando:
gcloud storage buckets add-iam-policy-binding gs://bucket_name \ --member=serviceAccount:project_id@appspot.gserviceaccount.com \ --role=roles/storage.objectUser
Crea un job Cloud Scheduler
Successivamente, crea un job Cloud Scheduler che chiami la Cloud Function datastore_export
:
Vai alla pagina Cloud Scheduler nella console Google Cloud :
Fai clic su Crea job.
Inserisci un Nome per il job, ad esempio
scheduledDatastoreExport
.Inserisci una frequenza nel formato cron Unix.
Seleziona un fuso orario.
In Target, seleziona Pub/Sub. Nel campo Argomento, inserisci il nome dell'argomento Pub/Sub che hai definito insieme alla tua Cloud Function,
startDatastoreExport
nell'esempio precedente.Nel campo Payload, inserisci un oggetto JSON per configurare l'operazione di esportazione. La Cloud Function
datastore_export
richiede un valorebucket
. Se vuoi, puoi includere i valorikinds
onamespaceIDs
per impostare un filtro entità, ad esempio:Esporta tutte le entità
{ "bucket": "gs://bucket_name" }
Esportare con il filtro delle entità
Esporta le entità del tipo
User
oTask
da tutti gli spazi dei nomi:{ "bucket": "gs://bucket_name", "kinds": ["User", "Task"] }
Esporta entità di tipo
User
oTask
dagli spazi dei nomi predefiniti eTesters
. Utilizza una stringa vuota (""
) per specificare lo spazio dei nomi predefinito:{ "bucket": "gs://bucket_name", "kinds": ["User", "Task"], "namespaceIds": ["", "Testers"] }
Esporta entità di qualsiasi tipo dagli spazi dei nomi predefiniti e
Testers
. Utilizza una stringa vuota (""
) per specificare lo spazio dei nomi predefinito:{ "bucket": "gs://bucket_name", "namespaceIds": ["", "Testers"] }
Dove
bucket_name
è il nome del tuo bucket Cloud Storage.Fai clic su Crea.
Testare le esportazioni programmate
Per testare la Cloud Function e il job Cloud Scheduler, esegui il job Cloud Scheduler nella pagina Cloud Scheduler della console Google Cloud . Se l'operazione ha esito positivo, viene avviata un'esportazione reale.
Vai alla pagina Cloud Scheduler nella Google Cloud console.
Vai a Cloud SchedulerNella riga del nuovo job Cloud Scheduler, fai clic su Esegui ora.
Dopo alcuni secondi, fai clic su Aggiorna. Il job Cloud Scheduler dovrebbe aggiornare la colonna dei risultati a Successo e Ultima esecuzione all'ora corrente.
La pagina Cloud Scheduler conferma solo che il job ha inviato un messaggio all'argomento Pub/Sub. Per verificare se la richiesta di esportazione è andata a buon fine, visualizza i log della tua Cloud Functiond.
Visualizza i log di Cloud Function
Per verificare se la Cloud Function ha avviato correttamente un'operazione di esportazione, consulta la pagina Esplora log nella console Google Cloud .
Il log della Cloud Function segnala errori e avvii di esportazione riusciti.
Visualizzare l'avanzamento dell'esportazione
Puoi utilizzare il comando gcloud datastore operations list
per visualizzare
l'avanzamento delle operazioni di esportazione. Consulta
Elenco di tutte le operazioni a lunga esecuzione.
Al termine di un'operazione di esportazione, puoi visualizzare i file di output nel bucket Cloud Storage. Il servizio di esportazione gestito utilizza un timestamp per organizzare le operazioni di esportazione: