Dokumen ini menjelaskan cara bermigrasi dari replikasi data streaming ke replikasi CDC melalui Pub/Sub saat menggunakan BigQuery Connector untuk SAP.
Jika Anda adalah pengguna BigQuery Connector untuk SAP yang sudah ada dan ingin tabel BigQuery Anda langsung mencerminkan perubahan dari tabel SAP sumber, Anda dapat menggunakan replikasi CDC melalui Pub/Sub. Saat data Anda berubah di SAP, BigQuery Connector untuk SAP akan merekam perubahan tersebut dan mengirimkannya melalui Pub/Sub langsung ke tabel BigQuery Anda, dengan menerapkan perubahan tanpa duplikat.
Sebelum memulai
Sebelum memulai, pelajari layanan Pub/Sub dan terminologinya.
Pastikan Anda atau administrator Anda telah menyelesaikan prasyarat berikut:
- Perbarui BigQuery Connector untuk SAP ke versi 2.9 atau yang lebih baru.
- Aktifkan Google Cloud API.
- Siapkan autentikasi.
- Buat topik yang dihentikan pengirimannya.
Memperbarui BigQuery Connector untuk SAP
Untuk menggunakan replikasi CDC melalui Pub/Sub, update BigQuery Connector untuk SAP ke versi 2.9 atau yang lebih baru. Untuk mengetahui informasi tentang cara mengupdate konektor, lihat Mengupdate BigQuery Connector untuk SAP.
Aktifkan Google Cloud API
Untuk replikasi CDC melalui Pub/Sub, pastikan API berikut diaktifkan:
- Pub/Sub API
- BigQuery API
- IAM Service Account Credentials API
Untuk mengetahui informasi tentang cara mengaktifkan Google Cloud API, lihat Mengaktifkan API.
Menyiapkan autentikasi
Untuk menggunakan replikasi CDC melalui Pub/Sub, selain peran BigQuery yang ada, Anda perlu memberikan peran Pub/Sub Editor ke akun layanan yang digunakan untuk otorisasi. Pastikan akun layanan memiliki peran berikut:
- Pub/Sub Editor
- Editor Data BigQuery
- BigQuery Job User
Untuk mengetahui informasi tentang cara memberikan peran, lihat Memberikan satu peran.
Untuk mengetahui informasi tentang metode autentikasi yang didukung dan cara menyiapkan autentikasi, lihat Menyiapkan autentikasi.
Membuat topik yang dihentikan peng irimannya
Untuk menangani pesan yang gagal ditulis oleh langganan BigQuery ke tabel BigQuery target, sebaiknya buat topik pesan yang tidak terkirim. Topik pesan yang tidak terkirim ini berfungsi sebagai antrean terpisah tempat Pub/Sub secara otomatis memublikasikan pesan yang tidak dapat dikirim setelah semua percobaan ulang.
Langkah-langkah migrasi
Ikuti langkah-langkah migrasi umum berikut:
- Hentikan konfigurasi replikasi SAP LT Replication Server.
- Siapkan tabel CDC yang sudah di-duplikasi.
- Mulai migrasi melalui BigQuery Connector untuk SAP.
- Konfigurasi setelan replikasi.
- Aktifkan konfigurasi replikasi SAP LT Replication Server.
- Periksa replikasi di BigQuery.
Menghentikan konfigurasi replikasi Server Replikasi SAP LT
Di SAP GUI, masukkan kode transaksi
LTRC
.Hentikan konfigurasi replikasi Server Replikasi SAP LT yang ingin Anda migrasikan.
Menyiapkan tabel CDC yang dihapus duplikatnya
Di BigQuery, Anda perlu membuat tabel CDC yang sudah dide-duplikasi dari tabel staging BigQuery yang ada. Saat Anda menggunakan replikasi CDC melalui Pub/Sub, tabel CDC ini menjadi tabel eksternal di BigQuery untuk data SAP Anda.
Untuk menyiapkan tabel CDC yang sudah dide-duplikasi, lakukan hal berikut:
Di Google Cloud konsol, buka halaman BigQuery.
Klik Compose New Query.
Buat tabel CDC dari tabel penyiapan BigQuery yang ada:
Di area teks Query editor, untuk menyalin struktur tabel penyiapan BigQuery yang ada, masukkan kueri berikut:
CREATE TABLE CDC_TABLE LIKE STAGING_TABLE
Ganti kode berikut:
CDC_TABLE
: Nama untuk tabel CDC BigQuery Anda.STAGING_TABLE
: Nama tabel penyiapan BigQuery.
Klik Run.
Langkah ini membuat struktur tabel CDC tanpa kunci utama.
Ubah definisi tabel CDC untuk menambahkan kunci utama:
Di area teks Query editor, untuk menambahkan kunci utama, masukkan kueri berikut:
ALTER TABLE CDC_TABLE ADD PRIMARY KEY(PRIMARY_KEYS) NOT INFORCED
Ganti kode berikut:
CDC_TABLE
: Nama tabel CDC.PRIMARY_KEYS
: Kunci utama sebagai daftar yang dipisahkan koma. Anda dapat mengambil daftar kunci utama dari tabel SAP sumber.
Klik Run.
Hapus duplikat tabel CDC:
Di area teks Query editor, untuk menghapus duplikat tabel CDC, masukkan kueri berikut:
INSERT INTO CDC_TABLE (COLUMN_NAMES ) SELECT COLUMN_NAMES FROM STAGING_TABLE WHERE is_deleted = false QUALIFY ROW_NUMBER() OVER( PARTITION BY PRIMARY_KEYS ORDER BY recordstamp DESC ) = 1
Ganti kode berikut:
CDC_TABLE
: Nama tabel CDC.COLUMN_NAMES
: Nama kolom sebagai daftar yang dipisahkan koma. Anda dapat mengambil daftar nama kolom dari sistem sumber SAP. Atau, gunakan tanda bintang (*) untuk memilih semua kolom.PRIMARY_KEYS
: Kunci utama tabel CDC.STAGING_TABLE
: Nama tabel penyiapan.
Klik Run.
Atau, Anda dapat menggunakan opsi Salin di BigQuery Studio untuk menyalin struktur tabel staging sumber dan membuat tabel CDC.
Memulai migrasi melalui BigQuery Connector untuk SAP
- Di SAP GUI, masukkan transaksi
/GOOG/SLT_SETTINGS
yang didahului dengan/n
:/n/GOOG/SLT_SETTINGS
- Dari menu drop-down di kolom Google Cloud Partner, pilih BigQuery.
- Dari menu drop-down Settings Table di layar peluncuran untuk transaksi
/GOOG/SLT_SETTINGS
, pilih Mass Transfers. - Di kolom Mass Transfer Key, tentukan ID transfer massal dari konfigurasi replikasi Server Replikasi SAP LT yang ingin Anda migrasikan.
- Klik ikon Execute.
- Di layar BigQuery Settings Maintenance - Mass Transfers, klik Migrate.
- Pada dialog konfirmasi migrasi, klik Ya.
Mengonfigurasi setelan replikasi
- Di SAP GUI, masukkan transaksi
/GOOG/SLT_SETTINGS
yang didahului dengan/n
:/n/GOOG/SLT_SETTINGS
- Dari menu drop-down di kolom Google Cloud Partner, pilih BigQuery CDC via Pub/Sub.
- Dari menu drop-down Settings Table di layar peluncuran untuk transaksi
/GOOG/SLT_SETTINGS
, pilih Mass Transfers. - Di kolom Mass Transfer Key, tentukan ID transfer massal dari konfigurasi replikasi Server Replikasi SAP LT yang Anda migrasikan di bagian Mulai migrasi melalui BigQuery Connector untuk SAP.
- Klik ikon Execute. Layar BigQuery Settings Maintenance - Mass Transfers akan ditampilkan.
- Verifikasi bahwa konfigurasi replikasi Server Replikasi SAP LT yang dimigrasikan ditampilkan.
Untuk konfigurasi replikasi Server Replikasi SAP LT, tentukan atribut tabel berikut:
Di kolom External Table Name, masukkan nama tabel CDC yang Anda buat pada langkah sebelumnya Siapkan tabel CDC yang sudah dide-duplikasi.
Untuk mengaktifkan replikasi CDC ke BigQuery melalui Pub/Sub, pilih kotak centang Repl CPS.
Di kolom Pub/Sub Schema, masukkan nama untuk skema Pub/Sub. BigQuery Connector untuk SAP otomatis membuat atau mengupdate skema Avro yang ada agar sesuai dengan definisi tabel SAP.
Di kolom Pub/Sub Topic, masukkan nama topik Pub/Sub tempat pesan dipublikasikan. BigQuery Connector untuk SAP secara otomatis membuat topik.
Di kolom Pub/Sub Subscription, masukkan nama untuk langganan BigQuery yang menggunakan pesan dari topik Pub/Sub dan menulis ke BigQuery. BigQuery Connector untuk SAP secara otomatis membuat langganan dan menautkannya ke topik yang ditentukan pada langkah sebelumnya.
Di kolom Dead Letter Queue, masukkan nama topik dead-letter Pub/Sub. Topik yang dihentikan pengirimannya ini menerima pesan yang gagal ditulis Pub/Sub ke BigQuery melalui langganan BigQuery.
Untuk mengaktifkan fungsi Pengambilan Data Perubahan (CDC) untuk tabel, centang kotak Akt. CDC (Aktifkan CDC).
Untuk mengoptimalkan performa pemuatan awal, centang kotak Cache Val (Validasi Cache).
Saat Anda memilih kolom ini, konektor akan memberikan performa maksimum untuk transfer data berukuran besar. Sistem menjalankan validasi pipeline Google Cloud secara berkala dan menyimpan hasilnya dalam cache. Konektor ini menyediakan transformasi data yang cepat dan mengirim data langsung ke Pub/Sub. Untuk mengetahui informasi selengkapnya, lihat Validasi Cache.
Mengaktifkan konfigurasi replikasi Server Replikasi SAP LT
Di SAP GUI, masukkan kode transaksi
LTRC
.Aktifkan konfigurasi.
Mengaktifkan konfigurasi akan membuat semua resource terkait Pub/Sub yang diperlukan dan memulai replikasi. Tabel CDC yang dikonfigurasi mencerminkan semua perubahan baru dan yang belum diproses.
Memeriksa replikasi di BigQuery
Di BigQuery, verifikasi bahwa nilai dalam tabel CDC sama dengan tabel SAP sumber Anda. Untuk mengetahui informasi selengkapnya tentang cara melakukannya, lihat Memvalidasi replikasi ke BigQuery.
Memecahkan masalah
Untuk mengetahui informasi tentang cara mendiagnosis dan menyelesaikan masalah yang mungkin Anda alami saat memigrasikan replikasi, lihat Panduan pemecahan masalah BigQuery Connector untuk SAP.
Mendapatkan dukungan
Jika Anda memerlukan bantuan untuk menyelesaikan masalah terkait langkah-langkah migrasi, kumpulkan semua informasi diagnostik yang tersedia dan hubungi Cloud Customer Care. Untuk mengetahui informasi tentang cara menghubungi Layanan Pelanggan, lihat Mendapatkan dukungan untuk SAP di Google Cloud.