Menyesuaikan performa kueri vektor di AlloyDB untuk PostgreSQL

Halaman ini menjelaskan cara menyesuaikan indeks untuk mencapai performa kueri yang lebih cepat dan perolehan yang lebih baik di AlloyDB untuk PostgreSQL.

Sebelum memulai

Sebelum Anda membuat indeks ScaNN, selesaikan langkah-langkah berikut:

  • Pastikan tabel dengan data Anda sudah dibuat.
  • Untuk menghindari masalah saat membuat indeks, pastikan nilai yang Anda tetapkan untuk tanda maintenance_work_mem dan shared_buffers kurang dari total memori mesin .

Menyesuaikan indeks ScaNN

Gunakan panduan berikut untuk memilih antara indeks ScaNN dua tingkat dan tiga tingkat:

  • Pilih indeks dua tingkat jika jumlah baris vektor kurang dari 10 juta baris.
  • Pilih indeks tiga tingkat jika jumlah baris vektor melebihi 100 juta baris.
  • Pilih indeks tiga tingkat untuk mengoptimalkan waktu pembuatan indeks atau pilih indeks dua tingkat untuk mengoptimalkan perolehan penelusuran jika jumlah baris vektor berada di antara 10 juta dan 100 juta baris.

Pertimbangkan contoh berikut untuk indeks ScaNN dua tingkat dan tiga tingkat yang menunjukkan cara menyetel parameter penyesuaian untuk tabel dengan 1.000.000 baris:

Indeks dua tingkat

SET LOCAL scann.num_leaves_to_search = 1;
SET LOCAL scann.pre_reordering_num_neighbors=50;

CREATE INDEX my-scann-index ON my-table
  USING scann (vector_column cosine)
  WITH (num_leaves = 1000); -- Note: 1000 is the square root of 1,000,000 rows.

Indeks tiga tingkat

SET LOCAL scann.num_leaves_to_search = 10;
SET LOCAL scann.pre_reordering_num_neighbors = 50;

CREATE INDEX my-scann-index ON my-table
  USING scann (vector_column cosine)
  WITH (num_leaves = 10000, max_num_levels = 2);

Untuk mengoptimalkan keseimbangan antara recall dan QPS saat menyetel indeks ScaNN, lihat Praktik terbaik untuk menyetel indeks ScaNN.

Menganalisis kueri Anda

Gunakan perintah EXPLAIN ANALYZE untuk menganalisis insight kueri Anda seperti yang ditunjukkan dalam contoh kueri SQL berikut.

  EXPLAIN ANALYZE SELECT result-column
  FROM my-table
  ORDER BY EMBEDDING_COLUMN <=> embedding('text-embedding-005', 'What is a database?')::vector
  LIMIT 1;

Respons contoh QUERY PLAN mencakup informasi seperti waktu yang diperlukan, jumlah baris yang dipindai atau ditampilkan, dan resource yang digunakan.

Limit  (cost=0.42..15.27 rows=1 width=32) (actual time=0.106..0.132 rows=1 loops=1)
  ->  Index Scan using my-scann-index on my-table  (cost=0.42..858027.93 rows=100000 width=32) (actual time=0.105..0.129 rows=1 loops=1)
        Order By: (embedding_column <=> embedding('text-embedding-005', 'What is a database?')::vector(768))
        Limit value: 1
Planning Time: 0.354 ms
Execution Time: 0.141 ms

Melihat metrik indeks vektor

Anda dapat menggunakan metrik indeks vektor untuk meninjau performa indeks vektor, mengidentifikasi area yang perlu ditingkatkan, dan menyesuaikan indeks berdasarkan metrik, jika diperlukan.

Untuk melihat semua metrik indeks vektor, jalankan kueri SQL berikut, yang menggunakan tampilan pg_stat_ann_indexes:

SELECT * FROM pg_stat_ann_indexes;

Anda akan melihat output yang mirip dengan berikut ini:

-[ RECORD 1 ]----------+---------------------------------------------------------------------------
relid                  | 271236
indexrelid             | 271242
schemaname             | public
relname                | t1
indexrelname           | t1_ix1
indextype              | scann
indexconfig            | {num_leaves=100,quantizer=SQ8}
indexsize              | 832 kB
indexscan              | 0
insertcount            | 250
deletecount            | 0
updatecount            | 0
partitioncount         | 100
distribution           | {"average": 3.54, "maximum": 37, "minimum": 0, "outliers": [37, 12, 11, 10, 10, 9, 9, 9, 9, 9]}
distributionpercentile |{"10": { "num_vectors": 0, "num_partitions": 0 }, "25": { "num_vectors": 0, "num_partitions": 30 }, "50": { "num_vectors": 3, "num_partitions": 30 }, "75": { "num_vectors": 5, "num_partitions": 19 }, "90": { "num_vectors": 7, "num_partitions": 11 }, "95": { "num_vectors": 9, "num_partitions": 5 }, "99": { "num_vectors": 12, "num_partitions": 4 }, "100": { "num_vectors": 37, "num_partitions": 1 }}

Untuk mengetahui informasi selengkapnya tentang daftar lengkap metrik, lihat Metrik indeks vektor.

Langkah berikutnya