Memantau dan memecahkan masalah sesi interaktif Google Cloud Serverless untuk Apache Spark

Dokumen ini menjelaskan cara memantau dan memecahkan masalah Google Cloud Serverless untuk Apache Spark sesi interaktif menggunakan UI Spark.

UI Spark

UI Spark mengumpulkan detail eksekusi Apache Spark dari sesi interaktif Serverless for Apache Spark. Fitur Spark UI tidak dikenai biaya dan diaktifkan secara default. Data yang dikumpulkan oleh fitur UI Spark dipertahankan selama 90 hari.

Izin dan peran Identity and Access Management yang diperlukan

Izin berikut diperlukan untuk menggunakan fitur UI Spark dengan sesi interaktif:

  • Izin pengumpulan data: dataproc.sessions.sparkApplicationWrite. Izin ini harus diberikan ke akun layanan yang menjalankan sesi interaktif. Peran ini disertakan dalam peran Dataproc Worker, yang otomatis diberikan ke akun layanan default Compute Engine yang digunakan Serverless for Apache Spark secara default. Namun, jika Anda menentukan akun layanan kustom untuk sesi atau template runtime sesi, Anda harus menambahkan izin dataproc.sessions.sparkApplicationWrite ini ke akun layanan tersebut (biasanya, dengan memberikan peran Dataproc Worker ke akun layanan).

  • Izin akses UI Spark: dataproc.sessions.sparkApplicationRead. Izin ini harus diberikan kepada pengguna untuk mengakses UI Spark di konsolGoogle Cloud . Izin ini disertakan dalam peran Dataproc Viewer, Dataproc Editor, dan Dataproc Administrator. Untuk membuka UI Spark di konsol Google Cloud , Anda harus memiliki salah satu peran ini atau memiliki peran kustom yang mencakup izin ini.

Membuka UI Spark

Halaman Spark UI tersedia di konsol Google Cloud .

  1. Buka Sesi Interaktif Dataproc

  2. Klik ID Sesi Interaktif untuk membuka halaman Detail Sesi Interaktif.
  3. Klik Lihat UI Spark di menu atas.

Apakah link View Spark UI dinonaktifkan? Jika izin yang diperlukan tidak diberikan, atau jika Anda menghapus centang kotak Aktifkan UI Spark di halaman detail sesi interaktif atau menetapkan properti spark.dataproc.appContext.enabled ke false (default: true) saat Anda membuat sesi atau membuat template runtime sesi, tombol Lihat UI Spark akan dinonaktifkan.