Prima di creare un job di trasferimento del file system, devi abilitare le API richieste e installare Docker.
Se ricevi errori durante la configurazione iniziale, verifica che l'utente con cui hai eseguito l'accesso disponga delle autorizzazioni necessarie per eseguire i passaggi di configurazione. In molti casi, queste autorizzazioni non sono disponibili per tutti gli utenti e potresti dover contattare un amministratore del progetto per ricevere assistenza.
Requisiti di sistema
Per utilizzare Storage Transfer Service per i trasferimenti del file system, devi:
Un'origine e/o una destinazione compatibile con POSIX.
Un bucket Cloud Storage senza un criterio di conservazione. Per trasferire a un bucket con una policy di conservazione, vedi Trasferire a un bucket con una policy di conservazione.
Porta TCP 443 (HTTPS) aperta per le connessioni in uscita.
Di seguito sono elencati i requisiti della macchina dell'agente di trasferimento:
Un server o una macchina virtuale Linux a 64 bit supportato da Docker in grado di accedere ai dati che prevedi di trasferire. Docker Community Edition, supporta i sistemi operativi CentOS, Debian, Fedora e Ubuntu.
Per utilizzare altri sistemi operativi Linux, vedi Docker Enterprise.
Almeno 8 GB di memoria per contenitore e almeno quattro CPU per essere più efficace.
Eventuali vincoli a livello di sistema o utente sul numero di ID processo consentiti, ad esempio quelli configurati con
ulimit -u, devono tenere conto del numero di agenti che prevedi di eseguire. Ogni processo dell'agente può creare fino a molte centinaia di thread. Ti consigliamo di rimuovere i limiti dell'ID processo quando esegui agenti di trasferimento.I clienti che utilizzano Podman per creare container agent devono specificare un valore
--pids-limitsufficientemente alto da ospitare i thread dell'agente Storage Transfer Service. Il valore predefinito di--pids-limitè 2048, il che potrebbe causare problemi quando viene eseguito più di un agente. Ti consigliamo di impostare--pids-limit=-1per consentire un numero illimitato di ID processo per container.
Limitazioni di scalabilità per job e agenti
Storage Transfer Service presenta le seguenti limitazioni di scalabilità per i job di trasferimento e gli agenti:
- Meno di un miliardo di file per job
- Il limite di larghezza di banda deve essere superiore a 1 MBps
- Fino a 100 agenti per pool di agenti
- Fino a 800 pool di agenti per progetto
Abilita API
-
Enable the Google Storage Transfer API.
Roles required to enable APIs
To enable APIs, you need the Service Usage Admin IAM role (
roles/serviceusage.serviceUsageAdmin), which contains theserviceusage.services.enablepermission. Learn how to grant roles.
Installa Docker
Se utilizzi Google Cloud CLI o Docker per installare ed eseguire agenti di trasferimento, installa Docker Engine su una macchina Linux fisica o virtuale.
Se utilizzi Podman per installare ed eseguire gli agenti di trasferimento, vai direttamente alle istruzioni di installazione specifiche per Podman.
curl -fsSL https://get.docker.com -o get-docker.sh
sudo sh get-docker.sh
sudo systemctl enable docker --now
Se si verifica un errore di installazione, vedi Risoluzione dei problemi.
Consenti a Docker di autenticarsi
Per consentire l'autenticazione di un container Docker mediante le credenziali predefinite di gcloud, crea un volume Docker contenente un file con le credenziali predefinite dell'applicazione eseguendo il comando riportato di seguito:
sudo docker run -ti --name gcloud-config google/cloud-sdk gcloud auth application-default login
Passaggi successivi
- Configurare le autorizzazioni Google Cloud
- Crea un pool di agenti
- Installare gli agenti di trasferimento
- Creare un job di trasferimento
- Massimizzare il rendimento dell'agente di trasferimento