Prima di creare un job di trasferimento del file system, devi abilitare le API richieste e installare Docker.
Se ricevi errori durante la configurazione iniziale, verifica che l'utente con cui hai eseguito l'accesso disponga delle autorizzazioni necessarie per eseguire i passaggi di configurazione. In molti casi, queste autorizzazioni non sono disponibili per tutti gli utenti e potresti dover contattare un amministratore del progetto per ricevere assistenza.
Requisiti di sistema
Per utilizzare Storage Transfer Service per i trasferimenti del file system, devi:
Un'origine e/o una destinazione compatibile con POSIX.
Un bucket Cloud Storage senza un criterio di conservazione. Per trasferire a un bucket con una policy di conservazione, vedi Trasferire a un bucket con una policy di conservazione.
Porta TCP 443 (HTTPS) aperta per le connessioni in uscita.
Di seguito sono elencati i requisiti della macchina dell'agente di trasferimento:
Un server o una macchina virtuale Linux a 64 bit supportato da Docker in grado di accedere ai dati che prevedi di trasferire. Docker Community Edition, supporta i sistemi operativi CentOS, Debian, Fedora e Ubuntu.
Per utilizzare altri sistemi operativi Linux, vedi Docker Enterprise.
Almeno 8 GB di memoria per contenitore e almeno quattro CPU per essere più efficace.
Eventuali vincoli a livello di sistema o utente sul numero di ID processo consentiti, ad esempio quelli configurati con
ulimit -u
, devono tenere conto del numero di agenti che prevedi di eseguire. Ogni processo dell'agente può creare fino a molte centinaia di thread. Ti consigliamo di rimuovere i limiti dell'ID processo quando esegui agenti di trasferimento.I clienti che utilizzano Podman per creare container agent devono specificare un valore
--pids-limit
sufficientemente alto da ospitare i thread dell'agente Storage Transfer Service. Il valore predefinito di--pids-limit
è 2048, il che potrebbe causare problemi quando viene eseguito più di un agente. Ti consigliamo di impostare--pids-limit=-1
per consentire un numero illimitato di ID processo per container.
Limitazioni di scalabilità per job e agenti
Storage Transfer Service presenta le seguenti limitazioni di scalabilità per i job di trasferimento e gli agenti:
- Meno di un miliardo di file per job
- Il limite di larghezza di banda deve essere superiore a 1 MBps
- Fino a 100 agenti per pool di agenti
- Fino a 800 pool di agenti per progetto
Abilita API
-
Enable the Google Storage Transfer API.
Roles required to enable APIs
To enable APIs, you need the Service Usage Admin IAM role (
roles/serviceusage.serviceUsageAdmin
), which contains theserviceusage.services.enable
permission. Learn how to grant roles.
Installa Docker
Se utilizzi Google Cloud CLI o Docker per installare ed eseguire agenti di trasferimento, installa Docker Engine su una macchina Linux fisica o virtuale.
Se utilizzi Podman per installare ed eseguire gli agenti di trasferimento, vai direttamente alle istruzioni di installazione specifiche per Podman.
curl -fsSL https://get.docker.com -o get-docker.sh
sudo sh get-docker.sh
sudo systemctl enable docker --now
Se si verifica un errore di installazione, vedi Risoluzione dei problemi.
Consenti a Docker di autenticarsi
Per consentire l'autenticazione di un container Docker mediante le credenziali predefinite di gcloud
, crea un volume Docker contenente un file con le credenziali predefinite dell'applicazione eseguendo il comando riportato di seguito:
sudo docker run -ti --name gcloud-config google/cloud-sdk gcloud auth application-default login
Passaggi successivi
- Configurare le autorizzazioni Google Cloud
- Crea un pool di agenti
- Installare gli agenti di trasferimento
- Creare un job di trasferimento
- Massimizzare il rendimento dell'agente di trasferimento