ベクトルクエリのパフォーマンスを調整する

このドキュメントでは、インデックスをチューニングしてクエリ パフォーマンスを高速化し、再現率を向上させる方法を説明します。

ScaNN インデックスをチューニングする

ScaNN インデックスは、木量子化ベースのインデックスを使用します。木量子化手法では、インデックスは量子化（ハッシュ化）関数とともに検索ツリーを学習します。クエリを実行すると、検索ツリーを使用して検索空間がプルーニングされ、量子化を使用してインデックス サイズが圧縮されます。このプルーニングにより、クエリベクトルとデータベース ベクトルの類似性（距離）のスコアリングが高速化されます。

高速な秒間クエリ数（QPS）と最近傍クエリでの高い再現率の両方を実現するには、データとクエリに最も適した方法で ScaNN インデックスのツリーをパーティショニングする必要があります。

ScaNN インデックスを作成する前に、次の操作を行います。

• データを含むテーブルがすでに作成されていることを確認します。
• インデックスの生成中に問題が発生しないように、maintenance_work_mem フラグと shared_buffers フラグに設定する値がマシンのメモリの合計より小さいことを確認してください。

調整パラメータ

次のインデックス パラメータとデータベース フラグを組み合わせて使用することで、再現率と QPS の適切なバランスを見つけることができます。すべてのパラメータは、両方の ScaNN インデックス タイプに適用されます。

パラメータのタイプ。 インデックスの作成 クエリ実行時刻

ScaNN インデックスをチューニングする

2 レベルと 3 レベルの ScaNN インデックスの次の例では、チューニング パラメータを設定する方法を示します。

SET LOCAL scann.num_leaves_to_search = 1;
SET LOCAL scann.pre_reordering_num_neighbors=50;

CREATE INDEX my-scann-index ON my-table
  USING scann (vector_column cosine)
  WITH (num_leaves = [power(1000000, 1/2)]);

SET LOCAL scann.num_leaves_to_search = 10;
SET LOCAL scann.pre_reordering_num_neighbors=50;

CREATE INDEX my-scann-index ON my-table
  USING scann (vector_column cosine)
  WITH (num_leaves = [power(1000000, 2/3)], max_num_levels = 2);

ScaNN インデックスがすでに生成されているテーブルに対して挿入オペレーションまたは更新オペレーションが発生すると、学習済みツリーがインデックスを最適化する方法に影響します。テーブルの更新や挿入が頻繁に発生する場合は、再現率の精度を高めるために、既存の ScaNN インデックスを定期的に再作成することをおすすめします。

インデックス指標をモニタリングすることで、インデックスの作成後に作成されたミューテーションの量を特定し、必要に応じてインデックスを再作成できます。各指標の詳細については、ベクトル インデックス指標をご覧ください。

チューニングのベスト プラクティス

使用する ScaNN インデックスのタイプに応じて、インデックスのチューニングに関する推奨事項は異なります。このセクションでは、再現率と QPS の最適なバランスを得るための、インデックス パラメータの調整に関する推奨事項について説明します。

2 レベル ツリー インデックス

推奨事項を適用して、データセットに最適な num_leaves と num_leaves_to_search の値を見つけるには、次の手順に沿って操作します。

1. num_leaves をインデックス対象テーブルの行数の平方根に設定して、ScaNN インデックスを作成します。
2. 目標とする再現率の範囲（95% など）に達するまで、テストクエリを実行し、scann.num_of_leaves_to_search の値を増やします。クエリの分析の詳細については、クエリを分析するをご覧ください。
3. scann.num_leaves_to_search と num_leaves の比率は、以降のステップで使用するのでメモしておきます。この比率は、目標の再現率を達成するために役立つデータセットの近似値を提供します。
   
   高次元ベクトル（500 次元以上）を扱っていて、再現率を改善したい場合は、scann.pre_reordering_num_neighbors の値をチューニングしてみてください。最初は、値を 100 * sqrt(K) に設定します。ここで、K はクエリで設定した上限です。
4. クエリによって目標の再現率が達成された後、QPS が低すぎる場合は、次の操作を行います。
   1. インデックスを再作成し、次のガイダンスに従って num_leaves と scann.num_leaves_to_search の値を増やします。
      • num_leaves を、行数の平方根に対するより大きな係数に設定します。たとえば、インデックスの num_leaves が行数の平方根に設定されている場合は、平方根の 2 倍に設定してみてください。値がすでに 2 倍になっている場合は、平方根の 3 倍に設定してみてください。
      • 必要に応じて scann.num_leaves_to_search を増やし、ステップ 3 でメモした num_leaves との比率を維持します。
      • num_leaves は、行数を 100 で除した値以下の値に設定します。
   2. テストクエリをもう一度実行します。テストクエリを実行しながら、scann.num_leaves_to_search を減らしてみて、高い再現率を維持しつつ QPS を高める値を見つけます。インデックスを再ビルドせずに、scann.num_leaves_to_search の値を変更してみてください。
5. QPS と再現率の範囲の両方が許容値に達するまで、手順 4 を繰り返します。

3 レベル ツリー インデックス

2 レベル ツリーの ScaNN インデックスに関する推奨事項に加えて、次のガイダンスと手順を使用してインデックスをチューニングします。

• max_num_levels を 2 レベル ツリーの 1 から 3 レベル ツリーの 2 に増やすと、インデックスの作成時間が大幅に短縮されますが、再現率の精度は低下します。次の推奨事項を使用して max_num_levels を設定します。
  • ベクトルの行数が 1 億行を超える場合は、値を 2 に設定します。
  • ベクトル行数が 1,000 万行未満の場合は、値を 1 に設定します。
  • ベクトル行数が 1,000 万～1 億行の場合は、インデックスの作成時間と必要な再現率のバランスに基づいて、1 または 2 に設定します。

推奨事項を適用して、num_leaves インデックス パラメータと max_num_levels インデックス パラメータの最適な値を見つける手順は、次のとおりです。

1. データセットに基づき、次の num_leaves と max_num_levels を組み合わせて ScaNN インデックスを作成します。

   • ベクトル行数が 1 億行を超える場合: max_num_levels を 2 に、num_leaves を power(rows, ⅔) に設定します。
   • ベクトル行数が 1 億行未満の場合: max_num_levels を 1 に、num_leaves を sqrt(rows) に設定します。
   • ベクトル行数が 1,000 万～1 億行の場合: まず、max_num_levels を 1 に、num_leaves を sqrt(rows) に設定します。

2. テストクエリを実行します。クエリの分析の詳細については、クエリを分析するをご覧ください。

   インデックスの作成時間が十分であれば、max_num_levels 値を保持し、num_leaves 値をテストして、最適な再現率を実現できます。

3. インデックスの作成時間が長すぎる場合は、次の操作を行います。

   • max_num_levels の値が 1 の場合、インデックスを削除します。max_num_levels 値を 2 に設定してインデックスを再ビルドします。

     クエリを実行し、num_leaves 値を調整して、再現率を最適化します。

   • max_num_levels 値が 2 の場合、インデックスを削除します。同じ max_num_levels 値でインデックスを再ビルドし、num_leaves 値をチューニングして、再現率を最適化します。

IVF インデックスをチューニングする

lists、ivf.probes、quantizer パラメータに設定した値をチューニングすると、アプリのパフォーマンスを最適化できます。

チューニング パラメータが設定された IVF インデックスを示す次の例について考えてみましょう。

SET LOCAL ivf.probes = 10;

CREATE INDEX my-ivf-index ON my-table
  USING ivf (vector_column cosine)
  WITH (lists = 100, quantizer = 'SQ8');

IVFFlat インデックスをチューニングする

lists パラメータと ivfflat.probes パラメータに設定した値を調整すると、アプリケーションのパフォーマンスを最適化できます。

IVFFlat インデックスを作成する前に、データベースの max_parallel_maintenance_workers フラグが、大規模なテーブルのインデックス作成を迅速化できる値に設定されていることを確認します。

チューニング パラメータが設定された IVFFlat インデックスを示す次の例について考えてみましょう。

SET LOCAL ivfflat.probes = 10;

CREATE INDEX my-ivfflat-index ON my-table
  USING ivfflat (vector_column cosine)
  WITH (lists = 100);

HNSW インデックスをチューニングする

m、ef_construction、hnsw.ef_search パラメータに設定した値を調整すると、アプリケーションのパフォーマンスを最適化できます。

チューニング パラメータが設定された hnsw インデックスを示す次の例について考えてみましょう。

SET LOCAL hnsw.ef_search = 40;

CREATE INDEX my-hnsw-index ON my-table
  USING hnsw (vector_column cosine)
  WITH (m = 16, ef_construction = 200);

クエリを分析する

次の SQL クエリの例に示すように、EXPLAIN ANALYZE コマンドを使用してクエリ分析情報を分析します。

  EXPLAIN ANALYZE SELECT result-column FROM my-table
    ORDER BY EMBEDDING_COLUMN ::vector
    USING INDEX my-scann-index
    <-> embedding('textembedding-gecko@003', 'What is a database?')
    LIMIT 1;

レスポンスの例 QUERY PLAN には、所要時間、スキャンまたは返された行数、使用されたリソースなどの情報が含まれます。

Limit  (cost=0.42..15.27 rows=1 width=32) (actual time=0.106..0.132 rows=1 loops=1)
  ->  Index Scan using my-scann-index on my-table  (cost=0.42..858027.93 rows=100000 width=32) (actual time=0.105..0.129 rows=1 loops=1)
        Order By: (embedding_column <-> embedding('textgecko@003', 'What is a database?')::vector(768))
        Limit value: 1
Planning Time: 0.354 ms
Execution Time: 0.141 ms

ベクトル インデックスの指標を表示する

ベクトル インデックスの指標を使用すると、ベクトル インデックスのパフォーマンスを確認して改善できる領域を特定し、必要に応じて指標に基づいてインデックスをチューニングできます。

すべてのベクトル インデックス指標を表示するには、pg_stat_ann_indexes ビューを使用する次の SQL クエリを実行します。

SELECT * FROM pg_stat_ann_indexes;

指標の一覧については、ベクトル インデックスの指標をご覧ください。

次のステップ

• エンベディング ワークフローの例