Dataproc Serverless untuk versi runtime Spark

Versi runtime Dataproc Serverless untuk Spark yang didukung

Versi Terakhir Diperbarui Dirilis Pada Didukung Hingga Tersedia Hingga Notes
Runtime Spark 2.2 LTS 26/06/2024 27/03/2024 30/09/2026 30/09/2028 Rilis Ketersediaan Umum.
Runtime Spark 2.0 26/06/2024 21/10/2022 30/06/2024 30/06/2026 Rilis Ketersediaan Umum. Ini adalah versi default.
Runtime Spark 1.2 LTS 26/06/2024 27/03/2024 30/09/2026 30/09/2028 Rilis Ketersediaan Umum.
Runtime Spark 1.1 LTS 26/06/2024 27/01/2023 31/07/2025 31/07/2027 Rilis Ketersediaan Umum.

Cara memilih versi runtime Dataproc Serverless untuk Spark

Versi runtime Dataproc Serverless default saat ini tercantum di versi runtime Dataproc Serverless yang didukung untuk Spark. Anda dapat menggunakan Konsol Google Cloud, gcloud CLI, dan Dataproc API untuk memilih versi runtime yang berbeda saat Anda mengirimkan workload batch.

Konsol

  1. Buka halaman Buat batch Dataproc di konsol Google Cloud.
  2. Di bagian Container, di bagian Runtime version, pilih salah satu versi runtime Dataproc Serverless yang tercantum.

gcloud

Gunakan flag dataproc batches submit --version untuk menentukan versi runtime Serverless Dataproc.

Contoh:

gcloud dataproc batches submit JOB_TYPE \
    --region=REGION \
    --version=VERSION (for example, 2.1)
    other args ...

API

Gunakan kolom RuntimeConfig.version sebagai bagian dari panggilan API batches.create untuk menentukan versi runtime Dataproc Serverless.

Versi runtime Dataproc Serverless untuk Spark yang tidak didukung

Versi Dataproc Serverless berikut tidak didukung.

Versi Mencakup Dirilis Pada Terakhir Diperbarui Tersedia Hingga Notes
Runtime Spark 2.1 Apache Spark 3.4.0
Konektor Cloud Storage 2.2.20
Konektor BigQuery 0.28.1
Java 17
Conda 23.3
Python 3.11
R 4.2
Scala 2.13
19/01/2022 30/5/2024 30/04/2026 Tidak didukung mulai 30/05/2024. 2.1.50 adalah versi rilis final.
Runtime Spark 1.0 Apache Spark 3.2.3
Konektor Cloud Storage 2.2.11
Conda 4.11
Java 11
Python 3.9
R 4.1
Scala 2.12.17
19/01/2022 03/2/2023 31/01/2025 Tidak didukung mulai 03/02/2023. 1.0.29 adalah versi rilis final.