Prima di creare un job di trasferimento del file system, devi attivare le API richieste e installare Docker.
Se ricevi errori durante la configurazione iniziale, verifica che l'utente con cui hai eseguito l'accesso disponga delle autorizzazioni necessarie per eseguire i passaggi di configurazione. In molti casi, queste autorizzazioni non sono disponibili per tutti gli utenti e potresti dover contattare un amministratore del progetto per ricevere assistenza.
Requisiti di sistema
Per utilizzare Storage Transfer Service per i trasferimenti del file system, devi disporre di:
Un'origine e/o una destinazione conformi a POSIX.
Un bucket Cloud Storage senza un criterio di conservazione. Per eseguire il trasferimento a un bucket con una norma di conservazione, consulta Trasferire in un bucket con una norma di conservazione.
Porte TCP 80 (HTTP) e 443 (HTTPS) aperte per le connessioni in uscita.
Di seguito sono elencati i requisiti per l'agente di trasferimento:
Un server o una macchina virtuale Linux a 64 bit supportata da Docker che possa accedere ai dati che prevedi di trasferire. Docker Community Edition, supporta i sistemi operativi CentOs, Debian, Fedora e Ubuntu.
Per utilizzare altri sistemi operativi Linux, consulta Docker Enterprise.
Almeno 8 GB di memoria per contenitore e almeno quattro CPU per ottenere il massimo risultati.
Eventuali limitazioni a livello di sistema o utente sul numero di ID processo consentiti, ad esempio quelli configurati con
ulimit -u
, devono tenere conto del numero di agenti che prevedi di eseguire. Ogni processo dell'agente può creare fino a diverse centinaia di thread. Ti consigliamo di rimuovere i limiti di ID processo quando esegui gli agenti di trasferimento.I clienti che utilizzano Podman per creare contenitori di agenti devono specificare un valore
--pids-limit
sufficientemente elevato da poter contenere i thread dell'agente Storage Transfer Service. Il valore predefinito di--pids-limit
è 2048, il che potrebbe causare problemi quando viene eseguito più di un agente. Ti consigliamo di impostare--pids-limit=-1
per consentire ID processo illimitati per contenitore.
Limitazioni di scalabilità per job e agenti
Storage Transfer Service presenta le seguenti limitazioni di scalabilità per i job di trasferimento e gli agenti:
- Meno di un miliardo di file per job
- Il limite di larghezza di banda deve essere superiore a 1 MB/s
- Fino a 100 agenti per pool di agenti
- Fino a 800 pool di agenti per progetto
Abilita API
-
Enable the Google Storage Transfer API.
Installa Docker
Se utilizzi Google Cloud CLI o Docker per installare ed eseguire gli agenti di trasferimento, installa Docker Engine su una macchina Linux fisica o virtuale.
Se utilizzi Podman per installare ed eseguire gli agenti di trasferimento, vai direttamente alle istruzioni di installazione specifiche per Podman.
curl -fsSL https://get.docker.com -o get-docker.sh
sudo sh get-docker.sh
sudo systemctl enable docker --now
Se si verifica un errore di installazione, consulta la sezione Risoluzione dei problemi.
Consenti a Docker di autenticarsi
Per consentire l'autenticazione di un container Docker mediante le credenziali predefinite di gcloud
, crea un volume Docker contenente un file con le credenziali predefinite dell'applicazione eseguendo il seguente comando:
sudo docker run -ti --name gcloud-config google/cloud-sdk gcloud auth application-default login
Passaggi successivi
- Configurare le autorizzazioni di Google Cloud
- Creare un pool di agenti
- Installa gli agenti di trasferimento
- Creare un job di trasferimento
- Massimizzare il rendimento dell'agente di trasferimento