Ressource: Batch
Représentation d'une charge de travail par lot dans le service.
Représentation JSON |
---|
{ "name": string, "uuid": string, "createTime": string, "runtimeInfo": { object ( |
Champs | |
---|---|
name |
Uniquement en sortie. Nom de la ressource du lot. |
uuid |
Uniquement en sortie. Un UUID (identifiant unique universel) de lot. Le service génère cette valeur lorsqu'il crée le lot. |
create |
Uniquement en sortie. Heure de création du lot. Horodatage au format RFC3339 UTC "Zulu", avec une résolution de l'ordre de la nanoseconde et jusqu'à neuf chiffres décimaux. Exemples : |
runtime |
Uniquement en sortie. Informations d'exécution sur l'exécution par lot. |
state |
Uniquement en sortie. État du lot. |
state |
Uniquement en sortie. Informations sur l'état du lot, telles qu'une description de l'échec si l'état est |
state |
Uniquement en sortie. Heure à laquelle le lot est passé à l'état actuel. Horodatage au format RFC3339 UTC "Zulu", avec une résolution de l'ordre de la nanoseconde et jusqu'à neuf chiffres décimaux. Exemples : |
creator |
Uniquement en sortie. Adresse e-mail de l'utilisateur qui a créé le lot. |
labels |
Facultatif. Libellés à associer à ce lot. Les clés d'étiquette doivent contenir entre 1 et 63 caractères et être conformes à la RFC 1035. Les valeurs des libellés peuvent être vides, mais, si elles sont présentes, elles doivent comporter entre 1 et 63 caractères et être conformes à la norme RFC 1035. Vous ne pouvez pas associer plus de 32 libellés à un lot. Objet contenant une liste de paires |
runtime |
Facultatif. Configuration d'exécution pour l'exécution par lot. |
environment |
Facultatif. Configuration de l'environnement pour l'exécution par lot. |
operation |
Uniquement en sortie. Nom de la ressource de l'opération associée à ce lot. |
state |
Uniquement en sortie. Informations sur l'historique de l'état du lot. |
Champ d'union batch_config . Partie de la configuration par lot spécifique à l'application/au framework. batch_config ne peut être qu'un des éléments suivants : |
|
pyspark |
Facultatif. Configuration de lot PySpark. |
spark |
Facultatif. Configuration du lot Spark. |
spark |
Facultatif. Configuration du lot SparkR. |
spark |
Facultatif. Configuration de lot SparkSql. |
PySparkBatch
Configuration permettant d'exécuter une charge de travail par lot Apache PySpark.
Représentation JSON |
---|
{ "mainPythonFileUri": string, "args": [ string ], "pythonFileUris": [ string ], "jarFileUris": [ string ], "fileUris": [ string ], "archiveUris": [ string ] } |
Champs | |
---|---|
main |
Obligatoire. URI HCFS du fichier Python principal à utiliser comme pilote Spark. Il doit s'agir d'un fichier .py. |
args[] |
Facultatif. Arguments à transmettre au pilote. N'incluez pas d'arguments pouvant être définis comme des propriétés de lot, tels que |
python |
Facultatif. URI de fichier HCFS des fichiers Python à transmettre au framework PySpark. Types de fichiers compatibles: |
jar |
Facultatif. URI HCFS des fichiers JAR à ajouter au classpath du pilote et des tâches Spark. |
file |
Facultatif. URI HCFS des fichiers à placer dans le répertoire de travail de chaque exécuteur. |
archive |
Facultatif. URI HCFS des archives à extraire dans le répertoire de travail de chaque exécuteur. Types de fichiers compatibles: |
SparkBatch
Configuration permettant d'exécuter une charge de travail par lot Apache Spark.
Représentation JSON |
---|
{ "args": [ string ], "jarFileUris": [ string ], "fileUris": [ string ], "archiveUris": [ string ], // Union field |
Champs | |
---|---|
args[] |
Facultatif. Arguments à transmettre au pilote. N'incluez pas d'arguments pouvant être définis comme des propriétés de lot, tels que |
jar |
Facultatif. URI HCFS des fichiers JAR à ajouter au classpath du pilote et des tâches Spark. |
file |
Facultatif. URI HCFS des fichiers à placer dans le répertoire de travail de chaque exécuteur. |
archive |
Facultatif. URI HCFS des archives à extraire dans le répertoire de travail de chaque exécuteur. Types de fichiers compatibles: |
Champ d'union driver . Spécification de la méthode principale à appeler pour piloter la charge de travail Spark. Spécifiez le fichier JAR contenant la classe principale ou le nom de la classe principale. Pour transmettre à la fois un fichier JAR principal et une classe principale dans ce fichier JAR, ajoutez le fichier JAR à jar_file_uris , puis spécifiez le nom de la classe principale dans main_class . driver ne peut être qu'un des éléments suivants: |
|
main |
Facultatif. URI HCFS du fichier JAR contenant la classe principale. |
main |
Facultatif. Nom de la classe principale du pilote. Le fichier JAR contenant la classe doit se trouver dans le chemin d'accès aux classes ou être spécifié dans |
SparkRBatch
Configuration permettant d'exécuter une charge de travail par lot Apache SparkR.
Représentation JSON |
---|
{ "mainRFileUri": string, "args": [ string ], "fileUris": [ string ], "archiveUris": [ string ] } |
Champs | |
---|---|
main |
Obligatoire. URI HCFS du fichier R principal à utiliser comme pilote. Doit être un fichier |
args[] |
Facultatif. Arguments à transmettre au pilote Spark. N'incluez pas d'arguments pouvant être définis comme des propriétés de lot, tels que |
file |
Facultatif. URI HCFS des fichiers à placer dans le répertoire de travail de chaque exécuteur. |
archive |
Facultatif. URI HCFS des archives à extraire dans le répertoire de travail de chaque exécuteur. Types de fichiers compatibles: |
SparkSqlBatch
Configuration permettant d'exécuter des requêtes Apache Spark SQL en tant que charge de travail par lot.
Représentation JSON |
---|
{ "queryFileUri": string, "queryVariables": { string: string, ... }, "jarFileUris": [ string ] } |
Champs | |
---|---|
query |
Obligatoire. URI HCFS du script contenant les requêtes SQL Spark à exécuter. |
query |
Facultatif. Mappage des noms de variables de requête sur des valeurs (équivalent à la commande Spark SQL: Objet contenant une liste de paires |
jar |
Facultatif. URI HCFS des fichiers JAR à ajouter au CLASSPATH Spark. |
État
État du lot.
Enums | |
---|---|
STATE_UNSPECIFIED |
L'état du lot est inconnu. |
PENDING |
Le lot est créé avant d'être exécuté. |
RUNNING |
Le lot est en cours d'exécution. |
CANCELLING |
Le lot est en cours d'annulation. |
CANCELLED |
La résiliation par lot a bien été effectuée. |
SUCCEEDED |
Le lot a bien été exécuté. |
FAILED |
Le lot n'est plus en cours d'exécution en raison d'une erreur. |
StateHistory
Informations sur l'état historique.
Représentation JSON |
---|
{
"state": enum ( |
Champs | |
---|---|
state |
Uniquement en sortie. État du lot à ce stade de l'historique. |
state |
Uniquement en sortie. Informations sur l'état à ce stade de l'historique. |
state |
Uniquement en sortie. Heure à laquelle le lot est passé à l'état "Historique". Horodatage au format RFC3339 UTC "Zulu", avec une résolution de l'ordre de la nanoseconde et jusqu'à neuf chiffres décimaux. Exemples : |
Méthodes |
|
---|---|
|
Crée une charge de travail par lots qui s'exécute de manière asynchrone. |
|
Supprime la ressource de charge de travail par lot. |
|
Récupère la représentation de la ressource de charge de travail par lot. |
|
Répertorie les charges de travail par lot. |