Ajusta el rendimiento de las consultas vectoriales en AlloyDB Omni

Selecciona una versión de la documentación:

En este documento, se describe cómo ajustar tus índices para lograr un rendimiento de consultas más rápido y una mejor recuperación en AlloyDB Omni.

Antes de comenzar

Antes de compilar un índice de ScaNN, completa los siguientes pasos:

  • Asegúrate de que ya se haya creado una tabla con tus datos.
  • Para evitar problemas durante la generación del índice, asegúrate de que el valor que establezcas para la marca maintenance_work_mem y shared_buffers sea inferior a la memoria total de la máquina.

Ajusta un índice de ScaNN

Usa la siguiente guía para elegir entre un índice de ScaNN de dos y tres niveles:

  • Elige un índice de dos niveles si la cantidad de filas de vectores es inferior a 10 millones.
  • Elige un índice de tres niveles si la cantidad de filas de vectores supera los 100 millones.
  • Elige un índice de tres niveles para optimizar el tiempo de compilación del índice o un índice de dos niveles para optimizar la recuperación de la búsqueda si la cantidad de filas de vectores se encuentra entre 10 y 100 millones.

Considera los siguientes ejemplos para los índices ScaNN de dos y tres niveles que muestran cómo se configuran los parámetros de ajuste para una tabla con 1,000,000 de filas:

Índice de dos niveles

SET LOCAL scann.num_leaves_to_search = 1;
SET LOCAL scann.pre_reordering_num_neighbors=50;

CREATE INDEX my-scann-index ON my-table
  USING scann (vector_column cosine)
  WITH (num_leaves = [power(1000000, 1/2)]);

Índice de tres niveles

SET LOCAL scann.num_leaves_to_search = 10;
SET LOCAL scann.pre_reordering_num_neighbors=50;

CREATE INDEX my-scann-index ON my-table
  USING scann (vector_column cosine)
  WITH (num_leaves = [power(1000000, 2/3)], max_num_levels = 2);

Analiza tus búsquedas

Usa el comando EXPLAIN ANALYZE para analizar tus estadísticas de consultas, como se muestra en el siguiente ejemplo de consulta en SQL.

  EXPLAIN ANALYZE SELECT result-column
  FROM my-table
  ORDER BY EMBEDDING_COLUMN <-> embedding('text-embedding-005', 'What is a database?')::vector
  LIMIT 1;

La respuesta de ejemplo QUERY PLAN incluye información como el tiempo que tardó, la cantidad de filas analizadas o devueltas y los recursos utilizados.

Limit  (cost=0.42..15.27 rows=1 width=32) (actual time=0.106..0.132 rows=1 loops=1)
  ->  Index Scan using my-scann-index on my-table  (cost=0.42..858027.93 rows=100000 width=32) (actual time=0.105..0.129 rows=1 loops=1)
        Order By: (embedding_column <-> embedding('text-embedding-005', 'What is a database?')::vector(768))
        Limit value: 1
Planning Time: 0.354 ms
Execution Time: 0.141 ms

Cómo ver las métricas del índice de vectores

Puedes usar las métricas del índice de vectores para revisar el rendimiento de tu índice de vectores, identificar áreas de mejora y ajustar tu índice según las métricas, si es necesario.

Para ver todas las métricas del índice de vectores, ejecuta la siguiente consulta en SQL, que usa la vista pg_stat_ann_indexes:

SELECT * FROM pg_stat_ann_indexes;

Para obtener más información sobre la lista completa de métricas, consulta Métricas del índice de vectores.

¿Qué sigue?