Aggiorna e ricrea un indice attivo

Con query di ricerca di grandi dimensioni, è importante aggiornare gli indici per avere sempre le informazioni più accurate. Puoi aggiornare gli indici di ricerca di vettori in diversi modi:

Sostituire un intero indice

Per sostituire i contenuti di un aggiornamento collettivo o di uno streaming Index esistente, utilizza il metodo IndexService.UpdateIndex.

  • Imposta Index.metadata.contentsDeltaUri sull'URI Cloud Storage che include i vettori da aggiornare.
  • Imposta Index.metadata.isCompleteOverwrite su true. Se impostato su true, l'intero indice viene completamente sovrascritto con il nuovo file di metadati fornito.

gcloud

  1. Aggiorna il file dei metadati dell'indice per impostare contentsDeltaUri e isCompleteOverwrite=true.
  2. Utilizza il comando gcloud ai indexes update.

Prima di utilizzare i dati dei comandi riportati di seguito, effettua le seguenti sostituzioni:

  • LOCAL_PATH_TO_METADATA_FILE: il percorso locale del file di metadati.
  • INDEX_ID: l'ID dell'indice.
  • LOCATION: la regione in cui utilizzi Vertex AI.
  • PROJECT_ID: il tuo ID progetto Google Cloud.

Esegui il seguente comando:

Linux, macOS o Cloud Shell

gcloud ai indexes update INDEX_ID \
    --metadata-file=LOCAL_PATH_TO_METADATA_FILE \
    --region=LOCATION \
    --project=PROJECT_ID

Windows (PowerShell)

gcloud ai indexes update INDEX_ID `
    --metadata-file=LOCAL_PATH_TO_METADATA_FILE `
    --region=LOCATION `
    --project=PROJECT_ID

Windows (cmd.exe)

gcloud ai indexes update INDEX_ID ^
    --metadata-file=LOCAL_PATH_TO_METADATA_FILE ^
    --region=LOCATION ^
    --project=PROJECT_ID

REST

Prima di utilizzare i dati della richiesta, apporta le seguenti sostituzioni:

  • INPUT_DIR: il percorso della directory Cloud Storage dei contenuti dell'indice.
  • INDEX_ID: l'ID dell'indice.
  • LOCATION: la regione in cui utilizzi Vertex AI.
  • PROJECT_ID: il tuo ID progetto Google Cloud.
  • PROJECT_NUMBER: il numero del progetto generato automaticamente.

Metodo HTTP e URL:

PATCH https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/indexes/INDEX_ID

Corpo JSON della richiesta:

{
 "metadata": {
   "contentsDeltaUri": "INPUT_DIR",
   "isCompleteOverwrite": true
 }
}

Per inviare la richiesta, espandi una di queste opzioni:

Dovresti ricevere una risposta JSON simile alla seguente:

{
 "name": "projects/PROJECT_NUMBER/locations/LOCATION/indexes/INDEX_ID/operations/OPERATION_ID",
 "metadata": {
   "@type": "type.googleapis.com/google.cloud.aiplatform.v1.UpdateIndexOperationMetadata",
   "genericMetadata": {
     "createTime": "2022-01-12T23:56:14.480948Z",
     "updateTime": "2022-01-12T23:56:14.480948Z"
   }
 }
}

Python

Per scoprire come installare o aggiornare l'SDK Vertex AI per Python, consulta Installare l'SDK Vertex AI per Python. Per saperne di più, consulta la documentazione di riferimento dell'API Python.

Quando richiami il metodo riportato di seguito, imposta is_complete_overwrite=True per sostituire completamente i contenuti dell'indice.

def vector_search_update_index_embeddings(
    project: str,
    location: str,
    index_name: str,
    gcs_uri: str,
    is_complete_overwrite: Optional[bool] = None,
) -> None:
    """Update a vector search index.

    Args:
        project (str): Required. Project ID
        location (str): Required. The region name
        index_name (str): Required. The index to update. A fully-qualified index
          resource name or a index ID.  Example:
          "projects/123/locations/us-central1/indexes/my_index_id" or
          "my_index_id".
        gcs_uri (str): Required. The Google Cloud Storage uri for index content
        is_complete_overwrite (bool): Optional. If true, the index content will
          be overwritten wth the contents at gcs_uri.
    """
    # Initialize the Vertex AI client
    aiplatform.init(project=project, location=location)

    # Create the index instance from an existing index
    index = aiplatform.MatchingEngineIndex(index_name=index_name)

    index.update_embeddings(
        contents_delta_uri=gcs_uri, is_complete_overwrite=is_complete_overwrite
    )

Console

Segui queste istruzioni per aggiornare i contenuti di un indice batch.

  1. Nella sezione Vertex AI della console Google Cloud, vai alla sezione Esegui il deployment e utilizza. Seleziona Ricerca vettoriale.

    Vai a Ricerca vettoriale

  2. Seleziona l'indice da aggiornare. Viene visualizzata la pagina Informazioni sull'indice.
  3. Seleziona Modifica indice. Viene visualizzato un riquadro di modifica dell'indice.
  4. Nel campo Cloud Storage, cerca e seleziona la cartella Cloud Storage in cui sono archiviati i dati vettoriali.
  5. Seleziona la casella di sovrascrittura completa per sovrascrivere tutti i dati esistenti.
  6. Fai clic su Aggiorna.
  7. Fai clic su Fine per chiudere il riquadro.

Aggiornare parzialmente un indice batch

Per aggiornare gli embedding di un batch Index esistente, utilizza il metodo IndexService.UpdateIndex.

  • Imposta Index.metadata.contentsDeltaUri sull'URI Cloud Storage che include i vettori da aggiornare.
  • Imposta Index.metadata.isCompleteOverwrite su false.

Solo i vettori specificati in Index.metadata.contentsDeltaUri vengono aggiornati, inseriti o eliminati. Gli altri embedding esistenti nell'indice rimangono invariati.

gcloud

  1. Aggiorna il file dei metadati dell'indice per impostare contentsDeltaUri.
  2. Utilizza il comando gcloud ai indexes update.

Prima di utilizzare i dati dei comandi riportati di seguito, effettua le seguenti sostituzioni:

  • LOCAL_PATH_TO_METADATA_FILE: il percorso locale del file di metadati.
  • INDEX_ID: l'ID dell'indice.
  • LOCATION: la regione in cui utilizzi Vertex AI.
  • PROJECT_ID: il tuo ID progetto Google Cloud.

Esegui il seguente comando:

Linux, macOS o Cloud Shell

gcloud ai indexes update INDEX_ID \
    --metadata-file=LOCAL_PATH_TO_METADATA_FILE \
    --region=LOCATION \
    --project=PROJECT_ID

Windows (PowerShell)

gcloud ai indexes update INDEX_ID `
    --metadata-file=LOCAL_PATH_TO_METADATA_FILE `
    --region=LOCATION `
    --project=PROJECT_ID

Windows (cmd.exe)

gcloud ai indexes update INDEX_ID ^
    --metadata-file=LOCAL_PATH_TO_METADATA_FILE ^
    --region=LOCATION ^
    --project=PROJECT_ID

REST

Prima di utilizzare i dati della richiesta, apporta le seguenti sostituzioni:

  • INPUT_DIR: il percorso della directory Cloud Storage dei contenuti dell'indice.
  • INDEX_ID: l'ID dell'indice.
  • LOCATION: la regione in cui utilizzi Vertex AI.
  • PROJECT_ID: il tuo ID progetto Google Cloud.
  • PROJECT_NUMBER: il numero del progetto generato automaticamente.

Metodo HTTP e URL:

PATCH https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/indexes/INDEX_ID

Corpo JSON della richiesta:

{
 "metadata": {
   "contentsDeltaUri": "INPUT_DIR",
   "isCompleteOverwrite": false
 }
}

Per inviare la richiesta, espandi una di queste opzioni:

Dovresti ricevere una risposta JSON simile alla seguente:

{
 "name": "projects/PROJECT_NUMBER/locations/LOCATION/indexes/INDEX_ID/operations/OPERATION_ID",
 "metadata": {
   "@type": "type.googleapis.com/google.cloud.aiplatform.v1.UpdateIndexOperationMetadata",
   "genericMetadata": {
     "createTime": "2022-01-12T23:56:14.480948Z",
     "updateTime": "2022-01-12T23:56:14.480948Z"
   }
 }
}

Python

Per scoprire come installare o aggiornare l'SDK Vertex AI per Python, consulta Installare l'SDK Vertex AI per Python. Per saperne di più, consulta la documentazione di riferimento dell'API Python.

Quando chiami il metodo riportato di seguito, imposta is_complete_overwrite=False.

def vector_search_update_index_embeddings(
    project: str,
    location: str,
    index_name: str,
    gcs_uri: str,
    is_complete_overwrite: Optional[bool] = None,
) -> None:
    """Update a vector search index.

    Args:
        project (str): Required. Project ID
        location (str): Required. The region name
        index_name (str): Required. The index to update. A fully-qualified index
          resource name or a index ID.  Example:
          "projects/123/locations/us-central1/indexes/my_index_id" or
          "my_index_id".
        gcs_uri (str): Required. The Google Cloud Storage uri for index content
        is_complete_overwrite (bool): Optional. If true, the index content will
          be overwritten wth the contents at gcs_uri.
    """
    # Initialize the Vertex AI client
    aiplatform.init(project=project, location=location)

    # Create the index instance from an existing index
    index = aiplatform.MatchingEngineIndex(index_name=index_name)

    index.update_embeddings(
        contents_delta_uri=gcs_uri, is_complete_overwrite=is_complete_overwrite
    )

Console

Segui queste istruzioni per aggiornare i contenuti di un indice batch.

  1. Nella sezione Vertex AI della console Google Cloud, vai alla sezione Esegui il deployment e utilizza. Seleziona Ricerca vettoriale.

    Vai a Ricerca vettoriale

  2. Seleziona l'indice da aggiornare. Viene visualizzata la pagina Informazioni sull'indice.
  3. Seleziona Modifica indice. Viene visualizzato un riquadro di modifica dell'indice.
  4. Nel campo Cloud Storage, cerca e seleziona la cartella Cloud Storage in cui sono archiviati i dati vettoriali.
  5. Assicurati che la casella di sovrascrittura completa sia vuota.
  6. Fai clic su Aggiorna.
  7. Fai clic su Fine per chiudere il riquadro.

Se a Index sono associati dei deployment (vedi il campo Index.deployed_indexes), quando vengono apportate determinate modifiche al Index originale, DeployedIndex viene aggiornato automaticamente in modo asincrono in background per riflettere queste modifiche.

Per verificare se la modifica è stata propagata, confronta la data e l'ora di completamento dell'operazione di indice di aggiornamento e DeployedIndex.index_sync_time.

Aggiornare parzialmente un indice di streaming

Con gli aggiornamenti in streaming, puoi aggiornare ed eseguire query sull'indice in pochi secondi. Al momento, non puoi utilizzare gli aggiornamenti in streaming su un indice di aggiornamento batch esistente, ma devi creare un nuovo indice. Per saperne di più, consulta Creare un indice per l'aggiornamento in streaming.

Ti vengono addebitati 0,45 $per GB utilizzato per gli aggiornamenti in streaming. Per scoprire di più sui prezzi, consulta la pagina dei prezzi di Vertex AI. Gli aggiornamenti in streaming vengono applicati direttamente agli indici di cui è stato eseguito il deployment in memoria, che vengono poi riportati nei risultati delle query dopo un breve ritardo.

Punti dati upsert

Utilizza questi esempi per scoprire come eseguire l'upsert di un punto dati. Ricorda che upsert-datapoints accetta JSON solo in formato array.

Python

Python

def vector_search_upsert_datapoints(
    project: str,
    location: str,
    index_name: str,
    datapoints: Sequence[aiplatform.compat.types.index_v1beta1.IndexDatapoint],
) -> None:
    """Upsert datapoints to the index.

    Args:
      project (str): Required. The Project ID
      location (str): Required. The region name, e.g. "us-central1"
      index_name (str): Required. The index to update. A fully-qualified index
        resource name or a index ID.  Example:
        "projects/123/locations/us-central1/indexes/my_index_id" or
        "my_index_id".
      datapoints: Sequence[IndexDatapoint]: Required. The datapoints to be
        updated. For example:
        [IndexDatapoint(datapoint_id="1", feature_vector=[1.0, 2.0, 3.0]),
        IndexDatapoint(datapoint_id="2", feature_vector=[4.0, 5.0, 6.0])]
    """
    # Initialize the Vertex AI client
    aiplatform.init(project=project, location=location)

    # Create the index instance from an existing index with stream_update
    # enabled
    my_index = aiplatform.MatchingEngineIndex(index_name=index_name)

    # Upsert the datapoints to the index
    my_index.upsert_datapoints(datapoints=datapoints)

Curl

Il limite di quota di throughput si riferisce alla quantità di dati inclusi in un upsert. Se l'ID punto dati esiste nell'indice, l'embedding viene aggiornato, altrimenti viene aggiunto un nuovo embedding.

  
  DATAPOINT_ID_1=
  DATAPOINT_ID_2=
  curl -H "Content-Type: application/json" -H "Authorization: Bearer `gcloud auth print-access-token`" https://${LOCATION}-aiplatform.googleapis.com/v1/projects/${PROJECT_ID}/locations/${LOCATION}/indexes/${INDEX_ID}:upsertDatapoints \
  -d '{datapoints: [{datapoint_id: "'${DATAPOINT_ID_1}'", feature_vector: [...]},
  {datapoint_id: "'${DATAPOINT_ID_2}'", feature_vector: [...]}]}'
  
  

Con la ricerca ibrida, che è Anteprima pubblica, sono supportate rappresentazioni sparse e dense per un punto dati. In un'operazione di upsert, l'omissione di un embedding denso comporta l'eliminazione della rappresentazione densa, mentre l'omissione di un embedding sparso comporta l'eliminazione della rappresentazione sparsa.

Questo esempio aggiorna sia le rappresentazioni distribuite che quelle dense.

  
    curl -X POST -H "Content-Type: application/json" -H "Authorization: Bearer `gcloud auth print-access-token`"  https://${LOCATION}-aiplatform.googleapis.com/v1/projects/${PROJECT_ID}/locations/${LOCATION}/indexes/${INDEX_ID}:upsertDatapoints -d '{datapoints: [{datapoint_id: "111", feature_vector: [0.111, 0.111], "sparse_embedding": {"values": [111.0,111.1,111.2], "dimensions": [10,20,30]}}]}'
  
  

Questo esempio aggiorna gli embedding densi e rimuove quelli sparsi.

    
      curl -X POST -H "Content-Type: application/json" -H "Authorization: Bearer `gcloud auth print-access-token`"  https://${LOCATION}-aiplatform.googleapis.com/v1/projects/${PROJECT_ID}/locations/${LOCATION}/indexes/${INDEX_ID}:upsertDatapoints -d '{datapoints: [{datapoint_id: "111", feature_vector: [0.111, 0.111]}]}'
    
  

Questo esempio aggiorna gli embedding sparsi e rimuove quelli densi.

    
      curl -X POST -H "Content-Type: application/json" -H "Authorization: Bearer `gcloud auth print-access-token`"  https://${LOCATION}-aiplatform.googleapis.com/v1/projects/${PROJECT_ID}/locations/${LOCATION}/indexes/${INDEX_ID}:upsertDatapoints -d '{datapoints: [{datapoint_id: "111",  "sparse_embedding": {"values": [111.0,111.1,111.2], "dimensions": [10,20,30]}}]}'
    
  

Console

Console

Segui queste istruzioni per aggiornare i contenuti di un indice di streaming.

  1. Nella console Google Cloud, vai alla pagina Ricerca di vettori.

    Vai a Ricerca vettoriale

  2. Seleziona l'indice da aggiornare. Viene visualizzata la pagina Informazioni sull'indice.
  3. Fai clic su Modifica indice. Viene visualizzato un riquadro di modifica dell'indice.
  4. Nel riquadro, seleziona la scheda Aggiorna punto dati per aggiungere contenuti.
  5. Inserisci l'ID punto dati.
  6. Inserisci almeno un tipo di incorporamento:
    • Embedding denso: inserisci un array di valori in virgola mobile separati da virgole. Il numero di valori deve corrispondere alle dimensioni dell'indice.
    • Embedding sparso (anteprima pubblica):
      1. Inserisci le dimensioni dell'embedding sparso come array di numeri interi separati da virgole. Il numero di valori non deve corrispondere alle dimensioni dell'indice.
      2. Inserisci i valori come array di valori in virgola mobile separati da virgola. Il numero di valori deve corrispondere al numero di dimensioni di embedding sparse.
  7. (Facoltativo) Per attivare il filtro in base alle limitazioni dei token in questo punto dati, fai clic su Aggiungi limitazione token e inserisci uno spazio dei nomi e stringhe separate da virgola come token.
  8. (Facoltativo) Per attivare il filtro in base alle limitazioni numeriche in questo punto dati, fai clic su Aggiungi limitazione numerica, inserisci un ambito, seleziona un tipo di numero e inserisci un valore.
  9. (Facoltativo) Per evitare molti risultati simili, inserisci una stringa di tag di affollamento.
  10. Fai clic su Upsert.
  11. Fai clic su Fine per chiudere il riquadro.

Il limite di quota di throughput si riferisce alla quantità di dati inclusi in un upsert. Se l'ID punto dati esiste nell'indice, l'embedding viene aggiornato, altrimenti viene aggiunto un nuovo embedding.

Aggiornare i metadati dell'embedding

Esistono molti motivi per cui potresti dover aggiornare le limitazioni di streaming o numeriche. Ad esempio, quando si ha a che fare con dati ad alto volume e in rapida evoluzione, potrebbe essere utile dare la priorità a determinati stream di dati. L'aggiornamento diretto delle limitazioni o delle limitazioni numeriche consente di perfezionare l'attenzione in tempo reale, garantendo che i dati più importanti vengano elaborati o evidenziati immediatamente.

Puoi aggiornare direttamente le limitazioni dei punti dati e le limitazioni numeriche all'interno di un indice in streaming senza il costo di compattazione dell'aggiornamento completo.

Per eseguire questi aggiornamenti solo dei metadati, devi aggiungere il campo update_mask alla richiesta. Il valore di update_mask deve essere impostato su all_restricts. I valori di limitazione e limitazione numerica impostati nei punti dati devono essere i nuovi valori che vuoi applicare nell'aggiornamento.

L'esempio seguente mostra come aggiungere limitazioni a due punti dati esistenti.

DATAPOINT_ID_1=
DATAPOINT_ID_2=

curl -H "Content-Type: application/json" -H "Authorization: Bearer gcloud auth print-access-token" https://${LOCATION}-aiplatform.googleapis.com/v1/projects/${PROJECT_ID}/locations/${LOCATION}/indexes/${INDEX_ID}:upsertDatapoints \
-d '{datapoints:
[{datapoint_id: "'${DATAPOINT_ID_1}'", feature_vector: [...],  restricts:[{namespace: "color", allow_list: ["red"]}]},
{datapoint_id: "'${DATAPOINT_ID_2}'", feature_vector: [...],  restricts:[{namespace: "color", allow_list: ["red"]}]}
], update_mask: "all_restricts"}'

Rimuovi punti dati

Potresti dover rimuovere i punti dati dall'indice in streaming. Puoi eseguire questa operazione utilizzando curl o dalla console Google Cloud.

Un caso d'uso chiave per l'eliminazione di un punto dati da un indice è mantenere la parità tra l'indice e la relativa origine reale. Immaginiamo un libraccio che utilizza un embedding di vettori per rappresentare il proprio inventario di libri per finalità di ricerca e consigli. Quando un libro è esaurito o viene rimosso dagli inventari, l'eliminazione del relativo punto di dati dall'indice garantisce che i risultati di ricerca e i consigli rimangano accurati e aggiornati.

Curl


curl -H "Content-Type: application/json" -H "Authorization: Bearer `gcloud auth print-access-token`" https://{LOCATION}-aiplatform.googleapis.com/v1/projects/{PROJECT_ID}/locations/{REGION}/indexes/{INDEX_ID}:removeDatapoints -d '{datapoint_ids: ["'{DATAPOINT_ID_1}'", "'{DATAPOINT_ID_2}'"]}'

Console

Console

Segui queste istruzioni per eliminare un punto dati dall'indice in streaming.

  1. Nella sezione Vertex AI della console Google Cloud, vai alla sezione Esegui il deployment e utilizza. Seleziona Ricerca vettoriale.

    Vai a Ricerca vettoriale

  2. Seleziona l'indice di streaming che vuoi aggiornare. Viene visualizzata la pagina Informazioni sull'indice.
  3. Seleziona Modifica indice. Viene visualizzato un riquadro di modifica dell'indice.
  4. Nel riquadro, seleziona la scheda Rimuovi punti dati.
  5. Aggiungi fino a 20 punti dati fornendo un elenco separato da virgole di ID punto dati
  6. Fai clic su Rimuovi.
  7. Fai clic su Fine per chiudere il riquadro.

Python

Python

def vector_search_remove_datapoints(
    project: str,
    location: str,
    index_name: str,
    datapoint_ids: Sequence[str],
) -> None:
    """Remove datapoints from a vector search index.

    Args:
        project (str): Required. Project ID
        location (str): Required. The region name
        index_name (str): Required. The index to update. A fully-qualified index
          resource name or a index ID.  Example:
          "projects/123/locations/us-central1/indexes/my_index_id" or
          "my_index_id".
        datapoint_ids (Sequence[str]): Required. The datapoint IDs to remove.
    """
    # Initialize the Vertex AI client
    aiplatform.init(project=project, location=location)

    # Create the index instance from an existing index
    index = aiplatform.MatchingEngineIndex(index_name=index_name)

    index.remove_datapoints(datapoint_ids=datapoint_ids)

Aggiorna i metadati dell'indice

IndexService.UpdateIndex può essere utilizzato anche per aggiornare i campi dei metadati display_name, description e labels per gli indici batch e in streaming. Tieni presente che una singola chiamata a UpdateIndex può aggiornare gli embedding dell'indice o questi campi di metadati, ma non entrambi contemporaneamente.

gcloud

  1. Aggiorna il file dei metadati dell'indice.
  2. Utilizza il comando gcloud ai indexes update.

Prima di utilizzare i dati dei comandi riportati di seguito, effettua le seguenti sostituzioni:

  • LOCAL_PATH_TO_METADATA_FILE: il percorso locale del file di metadati.
  • INDEX_ID: l'ID dell'indice.
  • LOCATION: la regione in cui utilizzi Vertex AI.
  • PROJECT_ID: il tuo ID progetto Google Cloud.

Esegui il seguente comando:

Linux, macOS o Cloud Shell

gcloud ai indexes update INDEX_ID \
    --metadata-file=LOCAL_PATH_TO_METADATA_FILE \
    --region=LOCATION \
    --project=PROJECT_ID

Windows (PowerShell)

gcloud ai indexes update INDEX_ID `
    --metadata-file=LOCAL_PATH_TO_METADATA_FILE `
    --region=LOCATION `
    --project=PROJECT_ID

Windows (cmd.exe)

gcloud ai indexes update INDEX_ID ^
    --metadata-file=LOCAL_PATH_TO_METADATA_FILE ^
    --region=LOCATION ^
    --project=PROJECT_ID

REST

Prima di utilizzare i dati della richiesta, apporta le seguenti sostituzioni:

  • INPUT_DIR: il percorso della directory Cloud Storage dei contenuti dell'indice.
  • INDEX_ID: l'ID dell'indice.
  • LOCATION: la regione in cui utilizzi Vertex AI.
  • PROJECT_ID: il tuo ID progetto Google Cloud.
  • PROJECT_NUMBER: il numero del progetto generato automaticamente.

Metodo HTTP e URL:

PATCH https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/indexes/INDEX_ID

Corpo JSON della richiesta:

{
 "metadata": {
   "description": "Updated description",
   "display_name": "Updated display name"
 }
}

Per inviare la richiesta, espandi una di queste opzioni:

Dovresti ricevere una risposta JSON simile alla seguente:

{
 "name": "projects/PROJECT_NUMBER/locations/LOCATION/indexes/INDEX_ID/operations/OPERATION_ID",
 "metadata": {
   "@type": "type.googleapis.com/google.cloud.aiplatform.v1.UpdateIndexOperationMetadata",
   "genericMetadata": {
     "createTime": "2022-01-12T23:56:14.480948Z",
     "updateTime": "2022-01-12T23:56:14.480948Z"
   }
 }
}

Python

def vector_search_update_index_metadata(
    project: str,
    location: str,
    index_name: str,
    display_name: Optional[str] = None,
    description: Optional[str] = None,
    labels: Optional[Dict[str, str]] = None,
) -> None:
    """Update a vector search index.

    Args:
        project (str): Required. Project ID
        location (str): Required. The region name
        index_name (str): Required. The index to update. A fully-qualified index
          resource name or a index ID.  Example:
          "projects/123/locations/us-central1/indexes/my_index_id" or
          "my_index_id".
        display_name (str): Optional. The display name of the Index. The name
          can be up to 128 characters long and can be consist of any UTF-8
          characters.
        description (str): Optional. The description of the Index.
        labels (Dict[str, str]): Optional. The labels with user-defined
          metadata to organize your Indexs. Label keys and values can be no
          longer than 64 characters (Unicode codepoints), can only contain
          lowercase letters, numeric characters, underscores and dashes.
          International characters are allowed. See https://goo.gl/xmQnxf for
          more information on and examples of labels. No more than 64 user
          labels can be associated with one Index (System labels are excluded).
          System reserved label keys are prefixed with
          "aiplatform.googleapis.com/" and are immutable.
    """
    # Initialize the Vertex AI client
    aiplatform.init(project=project, location=location)

    # Create the index instance from an existing index
    index = aiplatform.MatchingEngineIndex(index_name=index_name)

    index.update_metadata(
        display_name=display_name,
        description=description,
        labels=labels,
    )

Console

Segui queste istruzioni per aggiornare i metadati dell'indice (la console è limitata all'aggiornamento di display_name e description).

  1. Nella sezione Vertex AI della console Google Cloud, vai alla sezione Esegui il deployment e utilizza. Seleziona Ricerca vettoriale.

    Vai a Ricerca vettoriale

  2. Seleziona l'indice da aggiornare. Viene visualizzata la pagina Informazioni sull'indice.
  3. Seleziona Modifica indice. Viene visualizzato un riquadro di modifica dell'indice.
  4. Aggiorna i campi dei metadati che ti interessano.
  5. Fai clic su Aggiorna.
  6. Fai clic su Fine per chiudere il riquadro.

Compattazione

Periodicamente, l'indice viene ricostruito per tenere conto di tutti i nuovi aggiornamenti dall'ultima ricostruzione. Questa ricostruzione, o "compazione", migliora le prestazioni e l'affidabilità delle query. Le compattazioni si verificano sia per gli aggiornamenti in streaming sia per quelli batch.

  • Aggiornamento in streaming: Ricerca vettoriale utilizza metriche basate su heuristics per determinare quando attivare il compattamento. Se i dati non compressi più vecchi risalgono a cinque giorni fa, la compressione viene sempre attivata. Ti viene addebitato il costo della ricostruzione dell'indice alla stessa tariffa di un aggiornamento batch, oltre ai costi dell'aggiornamento in streaming.

  • Aggiornamento batch: si verifica quando le dimensioni del set di dati incrementale sono superiori al 20% delle dimensioni del set di dati di base.

Ricrea l'indice ed esegui query

Puoi inviare richieste di corrispondenza o di corrispondenza batch come di consueto con il client grpc, la libreria client o l'SDK Vertex AI per Python. Quando ricostruisci la query, dovresti visualizzare gli aggiornamenti tra pochi secondi. Per scoprire come eseguire query su un indice, consulta Esegui query sugli indici per ottenere i vicini più vicini.

Campi facoltativi

Quando crei un indice, puoi utilizzare alcuni campi facoltativi per perfezionare le query.

Upsert con limitazioni

L'inserimento dell'indice e l'aggiunta di una limitazione sono un modo per taggare i punti di dati in modo che siano già identificati per essere filtrati al momento della query. Ti consigliamo di aggiungere tag di limitazione per limitare i risultati visualizzati nei tuoi dati prima dell'invio di una query. Ad esempio, un cliente vuole eseguire una query su un indice, ma vuole assicurarsi che i risultati mostrino solo gli articoli corrispondenti a "rosso" in una ricerca di calzature. Nell'esempio seguente, l'indice viene aggiornato e filtra tutte le scarpe rosse, ma nega quelle blu. In questo modo, prima dell'esecuzione, la ricerca filtra le opzioni specifiche migliori da un indice ampio e variegato.

Oltre alle limitazioni dei token, l'esempio utilizza le limitazioni numeriche. In questo caso, il punto dati è associato a un prezzo di 20, a una lunghezza di 0,3 e a una larghezza di 0,5. Al momento della query, puoi utilizzare queste limitazioni numeriche per filtrare i risultati in modo da limitare i risultati della query ai valori di prezzo, lunghezza e larghezza. Ad esempio, questo punto dati viene visualizzato in una query che filtra per prezzo > 25, lunghezza < 1 e larghezza < 1.

Per scoprire di più sull'applicazione di filtri, consulta Ricerca vettoriale per l'indicizzazione.

Python

# Upsert datapoints
_TEST_DATAPOINT_1 = aiplatform_v1.types.index.IndexDatapoint(
    datapoint_id="3",
    feature_vector=[0.00526886899, -0.0198396724],
    restricts=[
        aiplatform_v1.types.index.IndexDatapoint.Restriction(namespace="Color", allow_list=["red"])
    ],
    numeric_restricts=[
        aiplatform_v1.types.index.IndexDatapoint.NumericRestriction(
            namespace="cost",
            value_int=1,
        )
    ],
)
_TEST_DATAPOINT_2 =  aiplatform_v1.types.index.IndexDatapoint(
    datapoint_id="4",
    feature_vector=[0.00526886899, -0.0198396724],
    numeric_restricts=[
        aiplatform_v1.types.index.IndexDatapoint.NumericRestriction(
            namespace="cost",
            value_double=0.1,
        )
    ],
    crowding_tag=aiplatform_v1.types.index.IndexDatapoint.CrowdingTag(crowding_attribute="crowding"),
)
_TEST_DATAPOINT_3 = aiplatform_v1.types.index.IndexDatapoint(
    datapoint_id="5",
    feature_vector=[0.00526886899, -0.0198396724],
    numeric_restricts=[
        aiplatform_v1.types.index.IndexDatapoint.NumericRestriction(
            namespace="cost",
            value_float=1.1,
        )
    ],
)

_TEST_DATAPOINTS = [_TEST_DATAPOINT_1, _TEST_DATAPOINT_2, _TEST_DATAPOINT_3]

my_streaming_index = my_streaming_index.upsert_datapoints(datapoints=_TEST_DATAPOINTS)

# Dynamic metadata update
_TEST_DATAPOINT_4 = aiplatform_v1.types.index.IndexDatapoint(
    datapoint_id="-2",
    numeric_restricts=[
        aiplatform_v1.types.index.IndexDatapoint.NumericRestriction(
            namespace="cost",
            value_float=1.1,
        )
    ],
)
my_streaming_index = my_streaming_index.upsert_datapoints(datapoints=[_TEST_DATAPOINT4], update_mask=["all_restricts"])

curl

curl -H "Content-Type: application/json" -H "Authorization: Bearer `gcloud auth print-access-token`" https://${ENDPOINT}/v1/projects/${PROJECT_ID}/locations/us-central1/indexes/${INDEX_ID}:upsertDatapoints \
-d '{
datapoints: [
  {
    datapoint_id: "'${DATAPOINT_ID_1}'",
    feature_vector: [...],
    restricts: { namespace: "color", allow_list: ["red"], deny_list: ["blue"]},
    numeric_restricts: [{namespace: "price", value_int: 20}, {namespace: "length", value_float: 0.3}, {namespace: "width", value_double: 0.5}]
  }
]}'

Upsert con sovraffollamento

Il tag crowding limita i risultati simili migliorando la diversità dei risultati. Il crowding è un vincolo per un elenco di vicini prodotto da una ricerca del vicino più prossimo che richiede che non più di un valore, di un gruppo di risultati, restituisca lo stesso valore di crowding_attribute. Ad esempio, supponiamo che tu sia tornato online per acquistare scarpe. Vuoi vedere una vasta gamma di colori nei risultati, ma forse li vuoi in un unico stile, ad esempio scarpini da calcio. Puoi chiedere che non vengano restituite più di 3 paia di scarpe dello stesso colore impostando per_crowding_attribute_num_neighbors = 3 nella query, supponendo di aver impostato crowding_attribute sul colore delle scarpe quando inserisci il punto dati.

Questo campo rappresenta il numero massimo consentito di corrispondenze con lo stesso tag di affollamento.

curl -H "Content-Type: application/json" -H "Authorization: Bearer `gcloud auth print-access-token`" https://${ENDPOINT}/v1/projects/${PROJECT_ID}/locations/us-central1/indexes/${INDEX_ID}:upsertDatapoints \
-d '{
datapoints: [
  {
    datapoint_id: "'${DATAPOINT_ID_1}'",
    feature_vector: [...],
    restricts: { namespace: "type", allow_list: ["cleats"]}
    crowding_tag: { crowding_attribute: "red-shoe"},
  }
]}'

Passaggi successivi