Resource: Batch
Representasi beban kerja batch di layanan.
Representasi JSON |
---|
{ "name": string, "uuid": string, "createTime": string, "runtimeInfo": { object ( |
Kolom | |
---|---|
name |
Hanya output. Nama resource batch. |
uuid |
Hanya output. UUID batch (ID Unik Universal). Layanan menghasilkan nilai ini saat membuat batch. |
create |
Hanya output. Waktu saat batch dibuat. Stempel waktu dalam format RFC3339 UTC "Zulu", dengan resolusi nanodetik dan hingga sembilan digit pecahan. Contoh: |
runtime |
Hanya output. Informasi runtime tentang eksekusi batch. |
state |
Hanya output. Status batch. |
state |
Hanya output. Detail status batch, seperti deskripsi kegagalan jika statusnya |
state |
Hanya output. Waktu saat batch memasuki status saat ini. Stempel waktu dalam format RFC3339 UTC "Zulu", dengan resolusi nanodetik dan hingga sembilan digit pecahan. Contoh: |
creator |
Hanya output. Alamat email pengguna yang membuat batch. |
labels |
Opsional. Label yang akan dikaitkan dengan batch ini. Kunci label harus berisi 1 hingga 63 karakter, dan harus sesuai dengan RFC 1035. Nilai label dapat kosong, tetapi jika ada, harus berisi 1 hingga 63 karakter, dan harus sesuai dengan RFC 1035. Tidak lebih dari 32 label yang dapat dikaitkan dengan batch. Objek yang berisi daftar pasangan |
runtime |
Opsional. Konfigurasi runtime untuk eksekusi batch. |
environment |
Opsional. Konfigurasi lingkungan untuk eksekusi batch. |
operation |
Hanya output. Nama resource operasi yang terkait dengan batch ini. |
state |
Hanya output. Informasi status historis untuk batch. |
Kolom union batch_config . Bagian konfigurasi batch khusus aplikasi/framework. batch_config hanya ada berupa salah satu diantara berikut: |
|
pyspark |
Opsional. Konfigurasi batch PySpark. |
spark |
Opsional. Konfigurasi batch Spark. |
spark |
Opsional. Konfigurasi batch SparkR. |
spark |
Opsional. Konfigurasi batch SparkSql. |
PySparkBatch
Konfigurasi untuk menjalankan beban kerja batch Apache PySpark.
Representasi JSON |
---|
{ "mainPythonFileUri": string, "args": [ string ], "pythonFileUris": [ string ], "jarFileUris": [ string ], "fileUris": [ string ], "archiveUris": [ string ] } |
Kolom | |
---|---|
main |
Wajib. URI HCFS dari file Python utama yang akan digunakan sebagai driver Spark. Harus berupa file .py. |
args[] |
Opsional. Argumen yang akan diteruskan ke driver. Jangan sertakan argumen yang dapat ditetapkan sebagai properti batch, seperti |
python |
Opsional. URI file HCFS dari file Python yang akan diteruskan ke framework PySpark. Jenis file yang didukung: |
jar |
Opsional. URI HCFS file jar yang akan ditambahkan ke classpath driver dan tugas Spark. |
file |
Opsional. URI HCFS file yang akan ditempatkan di direktori kerja setiap eksekutor. |
archive |
Opsional. URI HCFS arsip yang akan diekstrak ke direktori kerja setiap eksekutor. Jenis file yang didukung: |
SparkBatch
Konfigurasi untuk menjalankan beban kerja batch Apache Spark.
Representasi JSON |
---|
{ "args": [ string ], "jarFileUris": [ string ], "fileUris": [ string ], "archiveUris": [ string ], // Union field |
Kolom | |
---|---|
args[] |
Opsional. Argumen yang akan diteruskan ke driver. Jangan sertakan argumen yang dapat ditetapkan sebagai properti batch, seperti |
jar |
Opsional. URI HCFS file jar yang akan ditambahkan ke classpath driver dan tugas Spark. |
file |
Opsional. URI HCFS file yang akan ditempatkan di direktori kerja setiap eksekutor. |
archive |
Opsional. URI HCFS arsip yang akan diekstrak ke direktori kerja setiap eksekutor. Jenis file yang didukung: |
Kolom union driver . Spesifikasi metode utama yang akan dipanggil untuk mendorong beban kerja Spark. Tentukan file jar yang berisi class utama atau nama class utama. Untuk meneruskan jar utama dan class utama dalam jar tersebut, tambahkan jar ke jar_file_uris , lalu tentukan nama class utama di main_class . driver hanya dapat berupa salah satu dari hal berikut: |
|
main |
Opsional. URI HCFS file jar yang berisi class utama. |
main |
Opsional. Nama class utama driver. File jar yang berisi class harus berada di classpath atau ditentukan di |
SparkRBatch
Konfigurasi untuk menjalankan beban kerja batch Apache SparkR.
Representasi JSON |
---|
{ "mainRFileUri": string, "args": [ string ], "fileUris": [ string ], "archiveUris": [ string ] } |
Kolom | |
---|---|
main |
Wajib. URI HCFS file R utama yang akan digunakan sebagai driver. Harus berupa file |
args[] |
Opsional. Argumen yang akan diteruskan ke driver Spark. Jangan sertakan argumen yang dapat ditetapkan sebagai properti batch, seperti |
file |
Opsional. URI HCFS file yang akan ditempatkan di direktori kerja setiap eksekutor. |
archive |
Opsional. URI HCFS arsip yang akan diekstrak ke direktori kerja setiap eksekutor. Jenis file yang didukung: |
SparkSqlBatch
Konfigurasi untuk menjalankan kueri Apache Spark SQL sebagai beban kerja batch.
Representasi JSON |
---|
{ "queryFileUri": string, "queryVariables": { string: string, ... }, "jarFileUris": [ string ] } |
Kolom | |
---|---|
query |
Wajib. URI HCFS skrip yang berisi kueri Spark SQL yang akan dieksekusi. |
query |
Opsional. Pemetaan nama variabel kueri ke nilai (setara dengan perintah Spark SQL: Objek yang berisi daftar pasangan |
jar |
Opsional. URI HCFS file jar yang akan ditambahkan ke CLASSPATH Spark. |
Negara bagian/Provinsi
Status batch.
Enum | |
---|---|
STATE_UNSPECIFIED |
Status batch tidak diketahui. |
PENDING |
Batch dibuat sebelum dijalankan. |
RUNNING |
Batch sedang berjalan. |
CANCELLING |
Batch dibatalkan. |
CANCELLED |
Pembatalan batch berhasil. |
SUCCEEDED |
Batch berhasil diselesaikan. |
FAILED |
Batch tidak lagi berjalan karena error. |
StateHistory
Informasi status historis.
Representasi JSON |
---|
{
"state": enum ( |
Kolom | |
---|---|
state |
Hanya output. Status batch pada titik ini dalam histori. |
state |
Hanya output. Detail tentang status pada titik ini dalam histori. |
state |
Hanya output. Waktu saat batch memasuki status historis. Stempel waktu dalam format RFC3339 UTC "Zulu", dengan resolusi nanodetik dan hingga sembilan digit pecahan. Contoh: |
Metode |
|
---|---|
|
Membuat workload batch yang dieksekusi secara asinkron. |
|
Menghapus resource workload batch. |
|
Mendapatkan representasi resource workload batch. |
|
Mencantumkan workload batch. |