Memecahkan masalah tugas streaming yang tertinggal

Untuk pipeline streaming, straggler ditentukan sebagai item kerja dengan karakteristik berikut:

  • Hal ini mencegah watermark berkembang selama jangka waktu yang signifikan (dalam urutan menit).
  • Item ini diproses dalam waktu yang lama dibandingkan dengan item kerja lainnya dalam tahap yang sama.

Tugas yang tertinggal menahan watermark dan menambahkan latensi ke tugas. Jika jeda dapat diterima untuk kasus penggunaan Anda, Anda tidak perlu melakukan tindakan apa pun. Jika Anda ingin mengurangi latensi tugas, mulailah dengan mengatasi tugas yang tertinggal.

Melihat lambatnya streaming di konsol Google Cloud

Setelah memulai tugas Dataflow, Anda dapat menggunakan konsol Google Cloud untuk melihat tugas yang tertunda.

Anda dapat melihat keterlambatan streaming di tampilan progres tahap atau tampilan alur kerja tahap.

Melihat peserta yang tertinggal berdasarkan progres tahap

Untuk melihat peserta yang tertinggal menurut progres tahap:

  1. Di konsol Google Cloud , buka halaman Jobs Dataflow.

    Buka Tugas

  2. Klik nama tugas.

  3. Di halaman Detail tugas, klik tab Detail eksekusi.

  4. Dalam daftar Graph view, pilih Stage progress. Grafik progres menampilkan jumlah gabungan semua tugas yang tertunda yang terdeteksi dalam setiap tahap.

    Screenshot tampilan progres tahap.

  5. Untuk melihat detail tahap, tahan kursor ke batang untuk tahap tersebut. Panel detail menyertakan link ke log pekerja. Mengklik link ini akan membuka Cloud Logging yang dicakup ke pekerja dan rentang waktu saat keterlambatan terdeteksi.

    Screenshot kartu detail keterlambatan.

Melihat alur kerja tahap yang tertinggal

Untuk melihat keterlambatan menurut alur kerja tahap:

  1. Di konsol Google Cloud , buka halaman Jobs Dataflow.

    Buka Tugas

  2. Klik nama tugas.

  3. Di halaman detail tugas, klik tab Detail eksekusi.

  4. Dalam daftar Graph view, pilih Stage workflow. Alur kerja tahap menampilkan tahap eksekusi tugas, yang direpresentasikan sebagai grafik alur kerja.

    Screenshot tampilan alur kerja tahap.

Memecahkan masalah keterlambatan streaming

Jika terdeteksi operasi yang tertinggal, berarti ada operasi di pipeline Anda yang telah berjalan terlalu lama.

Untuk memecahkan masalah ini, periksa terlebih dahulu apakah Insight Dataflow menunjukkan adanya masalah.

Jika Anda masih tidak dapat menentukan penyebabnya, periksa log pekerja untuk tahap yang melaporkan keterlambatan. Untuk melihat log pekerja yang relevan, lihat detail keterlambatan dalam progres tahap. Kemudian, klik link untuk pekerja. Link ini akan membuka Cloud Logging, yang dicakup ke pekerja dan rentang waktu saat keterlambatan terdeteksi. Cari masalah yang mungkin memperlambat tahap, seperti:

  • Bug dalam kode DoFn atau macet DoFns. Cari stack trace di log, di dekat stempel waktu saat objek yang tertinggal terdeteksi.
  • Panggilan ke layanan eksternal yang memerlukan waktu lama untuk diselesaikan. Untuk mengurangi masalah ini, lakukan panggilan batch ke layanan eksternal dan tetapkan waktu tunggu pada RPC.
  • Batas kuota di sink. Jika pipeline Anda menghasilkan output ke layanan Google Cloud, Anda mungkin dapat menaikkan kuota. Untuk mengetahui informasi selengkapnya, lihat Menangani kuota. Selain itu, lihat dokumentasi untuk layanan tertentu terkait strategi pengoptimalan, serta dokumentasi untuk Konektor I/O.
  • DoFns yang melakukan operasi baca atau tulis besar pada status persisten. Pertimbangkan untuk memfaktorkan ulang kode Anda untuk melakukan pembacaan atau penulisan yang lebih kecil pada status persisten.

Anda juga dapat menggunakan panel Info samping untuk menemukan langkah-langkah paling lambat dalam tahap. Salah satu langkah ini mungkin menyebabkan keterlambatan. Klik nama langkah untuk melihat log pekerja untuk langkah tersebut.

Setelah Anda menentukan penyebabnya, perbarui pipeline dengan kode baru dan pantau hasilnya.

Langkah berikutnya