Antes de crear un trabajo de transferencia del sistema de archivos, deberás habilitar las API necesarias y, luego, instalar Docker.
Si recibes errores durante la primera configuración, confirma que el usuario con el que accediste tenga los permisos necesarios para realizar los pasos de configuración. En muchos casos, estos permisos no están disponibles para todos los usuarios, por lo que es posible que debas comunicarte con un administrador del proyecto a fin de obtener asistencia.
Requisitos del sistema
Si quieres usar el Servicio de transferencia de almacenamiento para las transferencias del sistema de archivos, necesitas lo siguiente:
Una fuente o un destino compatible con POSIX
Un bucket de Cloud Storage sin una política de retención Para transferir a un bucket con una política de retención, consulta Transfiere a un bucket con una política de retención.
El puerto TCP 443 (HTTPS) está abierto para conexiones salientes.
A continuación, se enumeran los requisitos de la máquina del agente de transferencia:
Un servidor Linux de 64 bits compatible con Docker o una máquina virtual que pueda acceder a los datos que planeas transferir Docker Community Edition es compatible con los sistemas operativos CentOs, Debian, Fedora y Ubuntu.
Para usar otros sistemas operativos de Linux, consulta Docker Enterprise.
Al menos 8 GB de memoria por contenedor y al menos 4 CPU para que sean más eficaces.
Cualquier restricción a nivel del sistema o del usuario sobre la cantidad de IDs de proceso permitidos, como los configurados con
ulimit -u
, debe tener en cuenta la cantidad de agentes que planeas ejecutar. Cada proceso del agente puede crear hasta cientos de subprocesos. Recomendamos quitar los límites de ID de proceso cuando se ejecutan agentes de transferencia.Los clientes que usan Podman para crear contenedores de agentes deben especificar un valor de
--pids-limit
lo suficientemente alto como para admitir subprocesos de agentes del Servicio de transferencia de almacenamiento. El valor predeterminado de--pids-limit
es 2048, lo que puede causar problemas cuando se ejecuta más de un agente. Te recomendamos que establezcas--pids-limit=-1
para permitir una cantidad ilimitada de IDs de proceso por contenedor.
Restricciones de escalamiento en trabajos y agentes
El Servicio de transferencia de almacenamiento tiene las siguientes restricciones de escala en los trabajos y agentes de transferencia:
- Menos de mil millones de archivos por trabajo
- El límite de ancho de banda debe ser superior a 1 MBps
- Hasta 100 agentes por grupo de agentes
- Hasta 800 grupos de agentes por proyecto
Habilita las APIs
-
Enable the Google Storage Transfer API.
Roles required to enable APIs
To enable APIs, you need the Service Usage Admin IAM role (
roles/serviceusage.serviceUsageAdmin
), which contains theserviceusage.services.enable
permission. Learn how to grant roles.
Instala Docker
Si usas Google Cloud CLI o Docker para instalar y ejecutar agentes de transferencia, instala Docker Engine en una máquina Linux física o virtual.
Si usas Podman para instalar y ejecutar agentes de transferencia, ve directamente a las instrucciones de instalación específicas de Podman.
curl -fsSL https://get.docker.com -o get-docker.sh
sudo sh get-docker.sh
sudo systemctl enable docker --now
Si se produce un error de instalación, consulta Solución de problemas.
Permite que Docker se autentique
Para permitir que el contenedor de Docker se autentique con tus credenciales predeterminadas de gcloud
, crea un volumen de Docker que contenga un archivo con tus credenciales predeterminadas de la aplicación. Para ello, ejecuta el siguiente comando:
sudo docker run -ti --name gcloud-config google/cloud-sdk gcloud auth application-default login
Próximos pasos
- Configurar Google Cloud permisos
- Crea un grupo de agentes
- Instala los agentes de transferencia
- Crea un trabajo de transferencia
- Maximiza el rendimiento del agente de transferencia