Pemecahan Masalah Cloud SQL

Jalankan perintah gcloud sql operations list untuk mencantumkan semua operasi untuk instance Cloud SQL yang ditentukan.

Lihat di log dan filter berdasarkan teks untuk menemukan pengguna. Anda mungkin perlu menggunakan log audit untuk informasi pribadi. File log yang relevan meliputi:

• Jika Cloud Audit Logs diaktifkan dan Anda memiliki izin yang diperlukan untuk melihatnya, cloudaudit.googleapis.com/activity mungkin juga tersedia.

Setelah instance dihapus permanen, pemulihan data tidak dapat dilakukan. Namun, jika instance dipulihkan, cadangannya juga akan dipulihkan. Untuk informasi selengkapnya terkait pemulihan instance yang dihapus, lihat Cadangan pemulihan.

Jika Anda telah melakukan operasi ekspor, buat instance baru, lalu lakukan operasi impor untuk membuat ulang database. Ekspor ditulis ke Cloud Storage dan impor dibaca dari sana.

Jika benar-benar perlu membatalkan operasi, Anda dapat meminta dukungan pelanggan untuk force restart instance.

Buat pengguna database sebelum memulihkan dump SQL.

Untuk menyimpan cadangan tanpa batas waktu, Anda dapat membuat cadangan on demand, karena cadangan tersebut tidak dihapus dengan cara yang sama seperti cadangan otomatis. Pencadangan sesuai permintaan akan tetap ada tanpa batas waktu. Artinya, pencadangan tersebut akan tetap ada hingga dihapus atau instance tempatnya dihapus. Karena jenis cadangan tersebut tidak dihapus secara otomatis, hal ini dapat mempengaruhi penagihan.

• Mungkin ada terlalu banyak koneksi terbuka. Terlalu banyak koneksi dapat terjadi akibat kesalahan yang terjadi di tengah-tengah suatu koneksi di mana tidak ada penyetelan autovacuum untuk membersihkan koneksi yang tidak aktif.
• Kegagalan instance yang berulang dapat terjadi jika ada kode kustom yang menggunakan logika percobaan ulang yang tidak berhenti setelah beberapa kegagalan.
• Kemungkinan traffic terlalu banyak. Gunakan penggabungan koneksi dan praktik terbaik lainnya untuk konektivitas.

Hal-hal yang perlu dicoba:

1. Verifikasi bahwa database telah disiapkan untuk autovacuum.
2. Periksa apakah ada logika percobaan ulang koneksi yang disiapkan dalam kode kustom.
3. Turunkan traffic hingga database pulih, lalu naikkan traffic secara perlahan.

CREATE UNLOGGED TABLE ....

Tabel berikut tidak termasuk dalam pemulihan dari cadangan:

• Isi tabel yang tidak di-log tidak dapat bertahan saat terjadi failover pada instance HA.
• Tabel yang tidak di-log tidak dapat bertahan saat terjadi error postgres.
• Tabel yang tidak di-log tidak direplikasi ke replika baca.
• Tabel yang tidak di-log akan otomatis dihapus total selama pemulihan cadangan.

Solusinya adalah menghindari penggunaan tabel yang tidak dicatat jika Anda ingin memulihkan tabel tersebut melalui cadangan. Jika melakukan pemulihan dari database yang sudah memiliki tabel yang belum dicatat ke dalam log, Anda dapat membuang database tersebut ke sebuah file, dan memuat ulang data tersebut setelah mengubah file dump ke ALTER TABLE ke SET LOGGED di tabel tersebut.

Hapus semua entri Authorized Networks dari instance Cloud SQL jika memungkinkan. Atau, buat replika tanpa entri Authorized Networks apapun.

Anda mencoba menggunakan Konsol Google Cloud untuk meng-clone instance dengan alamat IP pribadi, tetapi Anda tidak menentukan rentang IP yang dialokasikan yang ingin digunakan dan instance sumber tidak dibuat dengan rentang yang ditentukan. Akibatnya, instance yang di-clone dibuat dalam rentang acak.

Gunakan gcloud untuk meng-clone instance dan memberikan nilai untuk parameter
--allocated-ip-range-name. Untuk informasi selengkapnya, lihat Meng-clone instance dengan IP pribadi.

• Ketidakstabilan jaringan.
• Tidak ada respons terhadap perintah keep-alive TCP (baik klien maupun server tidak responsif, mungkin kelebihan beban)
• Masa pakai koneksi mesin database terlampaui dan server mengakhiri koneksi.

Aplikasi harus menoleransi kegagalan jaringan dan mengikuti praktik terbaik, seperti penggabungan koneksi dan percobaan ulang. Sebagian besar penyatuan koneksi akan menangkap error ini jika memungkinkan. Jika tidak, aplikasi akan mencoba ulang atau gagal dengan sendirinya.

Untuk percobaan ulang koneksi, sebaiknya gunakan metode berikut:

1. Backoff eksponensial. Tingkatkan interval waktu antara setiap percobaan ulang, secara eksponensial.
2. Tambahkan juga backoff acak.

Menggabungkan metode ini membantu mengurangi throttling.

Terhubung dengan pengguna default, lalu ubah pengguna.

Gunakan ekspor CSV untuk mengekspor hal yang Anda butuhkan saja.

Gunakan pengurangan beban ekspor. Pada level yang tinggi, dalam pengurangan beban ekspor, bukannya mengeluarkan ekspor pada instance sumber, melainkan Cloud SQL menjalankan instance pengurangan beban untuk melakukan ekspor. Pengurangan beban ekspor memiliki beberapa keunggulan, termasuk peningkatan performa pada instance sumber dan pemblokiran operasi administratif saat ekspor sedang berjalan. Dengan pengurangan beban ekspor, total latensi dapat meningkat sebesar jumlah waktu yang diperlukan untuk memunculkan instance pengurangan beban. Umumnya, untuk ekspor yang berukuran wajar, latensi tidak signifikan. Namun, jika ekspor Anda cukup kecil, Anda mungkin akan melihat peningkatan latensi.

Edit file dump untuk menghapus referensi.

Lakukan ekspor manual menggunakan alat pg_dump.

Anda dapat membangun sistem ekspor otomatis Anda sendiri menggunakan produk Google Cloud seperti Cloud Scheduler, Pub/Sub, dan Cloud Functions, Produk-produk tersebut mirip dengan artikel ini yang membahas tentang mengotomatiskan pencadangan.

Pastikan kabel primer eksternal tersedia untuk terhubung. Anda juga dapat mengubah nilai tanda net_read_timeout dan net_write_timeout pada instance sumber untuk menghentikan error. Untuk informasi selengkapnya tentang nilai yang diizinkan untuk tanda ini, lihat Mengonfigurasi tanda database.

Untuk mempelajari lebih lanjut cara menggunakan tanda mysqldump untuk migrasi impor terkelola, lihat Tanda sinkronisasi awal yang diizinkan dan default

Pastikan tanda replikasi seperti binlog-do-db, binlog-ignore-db, replicate-do-db, atau replicate-ignore-db tidak ditetapkan dengan cara yang bertentangan.

Jalankan perintah show master status pada instance utama untuk melihat setelan saat ini.

• Periksa metrik replikasi untuk instance replika Anda di bagian Cloud Monitoring pada konsol Google Cloud.
• Error dari thread IO MySQL atau thread SQL dapat ditemukan di Cloud Logging dalam file mysql.err log.
• Error ini juga dapat ditemukan saat menghubungkan ke instance replika. Jalankan perintah SHOW SLAVE STATUS, dan periksa kolom berikut dalam output:
  • Slave_IO_Running
  • Slave_SQL_Running
  • Last_IO_Error
  • Last_SQL_Error

Tingkatkan ukuran disk instance replika. Anda dapat meningkatkan ukuran disk secara manual atau mengaktifkan peningkatan penyimpanan otomatis.

Buat file dump baru menggunakan setelan flag yang benar, dan konfigurasi replika eksternal menggunakan file tersebut

1. Hubungkan ke klien mysql Anda melalui instance Compute Engine.
2. Jalankan mysqldump lalu gunakan flag --master-data=1 dan --flush-privileges.

   Penting: Jangan sertakan flag --set-gtid-purged=OFF.

   Pelajari lebih lanjut.

3. Pastikan file dump yang baru saja dibuat berisi baris SET @@GLOBAL.GTID_PURGED='...'.
4. Upload file dump ke bucket Cloud Storage dan konfigurasi replika menggunakan file dump.

Edit instance untuk mengupgrade ke ukuran mesin yang lebih besar untuk mendapatkan lebih banyak CPU dan memori.

Tutup operasi yang tidak digunakan. Periksa penggunaan CPU dan memori instance Cloud SQL untuk memastikan ada banyak resource yang tersedia. Cara terbaik untuk memastikan resource maksimum untuk impor adalah dengan memulai ulang instance sebelum memulai operasi.

Mulai ulang:

• Menutup semua koneksi.
• Mengakhiri tugas yang mungkin menghabiskan resource.

Buat pengguna database sebelum mengimpor.

Hal-hal yang sebaiknya dicoba:

Tambahkan baris berikut di awal file dump:

SET FOREIGN_KEY_CHECKS=0;
  

Selain itu, tambahkan baris berikut di akhir file dump:

SET FOREIGN_KEY_CHECKS=1;
  

Setelan ini menonaktifkan pemeriksaan integritas data saat operasi impor sedang berlangsung, dan mengaktifkannya kembali setelah data dimuat. Hal ini tidak mempengaruhi integritas data di database, karena data sudah divalidasi selama pembuatan file dump.

EXEC sp_serveroption
    @server='LINKED_SERVER_NAME',
    @optname='data access',
    @optvalue='TRUE'

Ganti LINKED_SERVER_NAME dengan nama server tertaut.

EXEC master.dbo.sp_addlinkedserver
   @server = N'LINKED_SERVER_NAME',
   @srvproduct= N'',
   @provider= N'SQLNCLI',
   @datasrc= N'TARGET_SERVER_ID',
   @provstr= N'Encrypt=yes;TrustServerCertificate=yes;User ID=USER_ID'

Ganti kode berikut:

• LINKED_SERVER_NAME dengan nama server tertaut.
• TARGET_SERVER_ID dengan nama server target, atau alamat IP dan nomor port untuk server target.
• USER_ID dengan pengguna yang login.

Misalnya, pengguna telah dihapus tetapi Anda tidak dapat mengetahui siapa yang melakukannya. Log menunjukkan operasi dimulai tetapi tidak memberikan informasi lebih lanjut. Anda harus mengaktifkan logging audit agar informasi identitas pribadi (PII) yang mendetail seperti ini dapat dicatat ke dalam log.

Hubungkan ke database dan jalankan perintah berikut untuk mengetahui detail tentang setiap jenis:

SHOW VARIABLES LIKE 'innodb_log_file%';

SELECT ROUND(SUM(LENGTH(argument)/POW(1024,2),2)
AS GB from mysql.general_log;

SHOW BINARY LOGS;
    

Untuk mendownload log sebagai JSON:

gcloud logging read \
"resource.type=cloudsql_database \
AND logName=projects/PROJECT_ID \
/logs/cloudsql.googleapis.com%2FLOG_NAME" \
--format json \
--project=PROJECT_ID \
--freshness="1d" \
> downloaded-log.json
    

Untuk mendownload log sebagai TEXT:

gcloud logging read \
"resource.type=cloudsql_database \
AND logName=projects/PROJECT_ID \
/logs/cloudsql.googleapis.com%2FLOG_NAME" \
--format json \
--project=PROJECT_ID \
--freshness="1d"| jq -rnc --stream 'fromstream(1|truncate_stream(inputs)) \
| .textPayload' \
--order=asc
> downloaded-log.txt
   

1. Dari terminal, hubungkan ke database Anda:

   gcloud sql connect INSTANCE_NAME
         

2. Jalankan perintah ini untuk membuat ekstensi:

   CREATE EXTENSION pgaudit;
         

3. Keluar dari database, dan jalankan perintah berikut dari terminal:

   gcloud sql instances patch INSTANCE_NAME \
   --database-flags=cloudsql.enable_pgaudit=on,pgaudit.log=all
        

Anda dapat mengetahui ukuran log umum dengan terhubung ke database dan menjalankan kueri ini:

Hal-hal yang sebaiknya dicoba:

• Anda dapat memeriksa penyimpanan yang ditempati oleh log biner menggunakan perintah berikut di antarmuka command line MySQL: SHOW BINARY LOGS;
• Tabel sementara juga dapat menggunakan sejumlah besar ruang penyimpanan. Untuk memeriksa penggunaan ruang sementara, gunakan perintah berikut: SELECT * FROM INFORMATION_SCHEMA.FILES WHERE TABLESPACE_NAME='innodb_temporary'\G.
• Perintah berikut memungkinkan Anda memeriksa ukuran log ulangi: SHOW VARIABLES LIKE 'innodb_log_file%';
• Anda dapat memeriksa ukuran general_log, jika diaktifkan, dengan bantuan perintah berikut: SELECT ROUND(SUM(LENGTH(argument)/POW(1024,2)),2) AS GB from mysql.general_log;
• Jika perlu, Anda dapat memotong tabel log dengan menggunakan API. Untuk mengetahui informasi selengkapnya, lihat halaman referensi instances.truncateLog.
• Pelajari lebih lanjut cara menyetel dan mengonfigurasi log kueri lambat.

Hubungkan ke database dan jalankan kueri ini:

SHOW PROCESSLIST.

Item pertama dalam daftar mungkin item yang memegang kunci, yang ditunggu oleh item berikutnya.

Kueri SHOW INNODB STATUS juga dapat membantu.

SELECT * FROM INFORMATION_SCHEMA.FILES WHERE TABLESPACE_NAME='innodb_temporary'\G

Hubungkan ke database dan jalankan kueri berikut:

SELECT TABLE_SCHEMA, TABLE_NAME, sum(DATA_LENGTH+INDEX_LENGTH)/pow(1024,2) FROM INFORMATION_SCHEMA.TABLES WHERE TABLE_SCHEMA NOT IN ('PERFORMANCE_SCHEMA','INFORMATION_SCHEMA','SYS','MYSQL') GROUP BY TABLE_SCHEMA, TABLE_NAME;

Lakukan sharding pada instance jika memungkinkan. Menggunakan banyak instance Cloud SQL yang lebih kecil akan lebih baik daripada satu instance besar.

SELECT datname, usename, application_name as appname, client_addr, state, now() - backend_start as conn_age, now() - xact_start as xact_age, now() - query_start as query_age, now() - state_change as last_activity_age, wait_event_type, wait_event, query FROM pg_stat_activity WHERE state <> 'idle' ORDER BY 8 DESC LIMIT 20;

SELECT name, setting, unit FROM pg_settings WHERE name = 'FIELD_NAME'.

SHOW SETTING_NAME;

Jalankan SHOW ALL; untuk melihat seluruh setelan.

Jalankan perintah berikut:

1.       GRANT pg_signal_backend TO USERNAME;
         

2. Temukan ID proses dari proses yang diblokir atau macet:

         SELECT pid, usename, state, query FROM pg_stat_activity;
         

3. Hentikan proses yang sedang berjalan atau tidak aktif menggunakan perintah berikut:

         SELECT pg_cancel_backend(pid)
               FROM pg_stat_activity
               WHERE usename = 'USERNAME';
         
         

         SELECT pg_terminate_backend(pid)
               FROM pg_stat_activity
               WHERE usename = 'USERNAME';
         
         

Tugas autovacuum mungkin diblokir, atau mungkin tidak mengklaim kembali ID transaksi dengan cukup cepat untuk mengimbangi workload.

Untuk menghindari pemadaman layanan karena masalah wraparound transaksi, Anda dapat meninjau tips layanan mandiri ini untuk menangani wraparound TXID.

Untuk saran penyesuaian umum, lihat Mengoptimalkan, memantau, dan memecahkan masalah operasi vacuum di PostgreSQL.

Proses mulai ulang akan menghapus file sementara, tetapi tidak mengurangi penyimpanan. Hanya dukungan pelanggan yang dapat mereset ukuran instance.

Periksa log di sekitar waktu penghapusan dan periksa apakah ada skrip berbahaya yang berjalan dari dasbor atau proses otomatis lainnya.

Beberapa kemungkinan penjelasan meliputi:

• Operasi lain sedang berlangsung. Operasi Cloud SQL tidak berjalan secara bersamaan. Tunggu hingga operasi lainnya selesai.
• Peringatan INSTANCE_RISKY_FLAG_CONFIG dipicu setidaknya setiap kali satu flag beta digunakan. Hapus setelan flag yang berisiko dan mulai ulang instance

Sayangnya, Anda tidak dapat mengecilkan file ibtmp1 dengan metode apa pun selain memulai ulang layanan.

Salah satu opsi mitigasi adalah membuat tabel sementara dengan ROW_FORMAT=COMPRESSED, sehingga tabel tersebut disimpan dalam tablespace file per tabel di direktori file sementara. Namun, kelemahannya adalah biaya performa yang terkait dengan pembuatan dan penghapusan tablespace file per tabel untuk setiap tabel sementara.

Jika penyimpanan instance habis, dan kemampuan peningkatan penyimpanan otomatis tidak diaktifkan, instance Anda akan offline. Untuk menghindari masalah ini, Anda dapat mengedit instance untuk mengaktifkan peningkatan penyimpanan otomatis.

Dengan memiliki koneksi yang dapat bertahan kurang dari 60 detik, sebagian besar penonaktifan yang berantakan dapat dihindari, termasuk koneksi dari command prompt database. Jika Anda membiarkan koneksi ini terbuka selama berjam-jam atau bahkan berhari-hari, maka proses penonaktifan bisa jadi berantakan.

Cari tahu objek mana yang bergantung pada pengguna tersebut, lalu hapus atau alihkan objek tersebut ke pengguna yang berbeda.

Lihat tips performa umum secara khusus.

Untuk penyisipan, update, atau penghapusan database yang berjalan lambat, pertimbangkan tindakan berikut:

• Periksa lokasi penulis dan database; mengirim data jarak jauh dapat menyebabkan latensi.
• Periksa lokasi pembaca dan database; latensi lebih memengaruhi performa baca daripada performa tulis

Untuk mengurangi latensi, sebaiknya tempatkan resource sumber dan tujuan di region yang sama.

Ada faktor lain selain workload Anda yang dapat memengaruhi penggunaan memori, seperti jumlah koneksi aktif dan proses overhead internal. Meskipun begitu, hal ini tidak selalu tercantum dalam diagram pemantauan.

Pastikan instance memiliki overhead yang cukup untuk memperhitungkan workload Anda serta beberapa overhead tambahan.

Untuk menyimpan data Anda, sebaiknya ekspor data ke Cloud Storage sebelum menghapus instance.

Peran Admin Cloud SQL mencakup izin untuk menghapus instance. Untuk mencegah penghapusan yang tidak disengaja, berikan peran ini hanya jika diperlukan.

Namun, ada cara lain untuk mencapai tujuan tersebut, yaitu dengan membuat instance baru.

• Anda dapat meng-clone instance yang ingin diganti namanya dan menetapkan nama baru untuk instance yang di-clone. Cara ini memungkinkan Anda membuat instance baru tanpa harus mengimpor data secara manual. Sama seperti saat membuat instance baru, instance yang di-clone akan memiliki alamat IP baru.
• Anda dapat mengekspor data dari instance ke dalam bucket Cloud Storage, membuat instance baru dengan nama baru yang diinginkan, lalu mengimpor data ke dalam instance baru tersebut.

Dalam kedua kasus seperti itu, Anda dapat menghapus instance lama setelah operasi selesai. Sebaiknya gunakan rute clone karena tidak akan berdampak pada performa dan tidak mengharuskan Anda mengulang langkah setelan konfigurasi instance apa pun seperti flag, jenis mesin, ukuran penyimpanan, dan memori.

Pertama, pastikan nilai tanda max_connections lebih besar dari atau sama dengan nilai pada tanda utama.

Jika flag max_connections sudah ditetapkan dengan tepat, periksa log di Cloud Logging untuk menemukan error yang sebenarnya.

Jika error-nya adalah: set Service Networking service account as servicenetworking.serviceAgent role on consumer project, makan nonaktifkan dan aktifkan kembali Service Networking API. Tindakan ini akan membuat akun layanan yang diperlukan untuk melanjutkan prosesnya.

Mulai ulang instance replika untuk mengklaim kembali ruang memori sementara.

Edit instance untuk mengaktifkan automatic storage increase.

• Kueri lambat pada replika. Temukan dan perbaiki.
• Semua tabel harus memiliki kunci utama/unik. Setiap update pada tabel tersebut tanpa kunci utama/unik akan menyebabkan pemindaian tabel penuh pada replika tersebut.
• Kueri seperti DELETE ... WHERE field < 50000000 menyebabkan kelambatan replikasi dengan replikasi berbasis baris karena sejumlah besar update tertumpuk di replika.

Beberapa kemungkinan solusinya mencakup:

• Edit instance untuk meningkatkan ukuran replika.
• Kurangi beban pada database.
• Kirim traffic baca ke replika baca.
• Indeks tabel.
• Iidentifikasi dan perbaiki kueri penulisan yang lambat.
• Buat ulang replika.

Buat ulang replika setelah menghentikan semua kueri yang berjalan.