Nachdem Sie einen VPC-Netzwerk-Peering- oder Private Service Connect-Indexendpunkt bereitgestellt haben, unterscheidet sich die Abfrage je nach Bereitstellungsart geringfügig:
- Private Service Connect-Automatisierung
- Manuelle Konfiguration von Private Service Connect
- VPC-Netzwerk-Peering
Mit Private Service Connect-Automatisierung bereitgestellt
Wenn IndexEndpoints
mit der Private Service Connect-Automatisierung bereitgestellt wird, wird das Private Service Connect-Netzwerk vom Python SDK automatisch dem entsprechenden Endpunkt zugeordnet. Wenn Sie das Python SDK nicht verwenden, müssen Sie eine direkte Verbindung zur erstellten IP-Adresse für Ihren Endpunkt herstellen. Folgen Sie dazu der Anleitung unter Manuelle Bereitstellung von Private Service Connect abfragen.
Python
Informationen zur Installation des Vertex AI SDK for Python finden Sie unter Vertex AI SDK for Python installieren. Weitere Informationen finden Sie in der Referenzdokumentation zur Python API.
Mit manueller Private Service Connect-Konfiguration bereitgestellt
Bei Private Service Connect-IndexEndpoints
-Endpunkten, die mit einer manuell konfigurierten Verbindung bereitgestellt werden, wird über die IP-Adresse der Compute-Adresse auf den Endpunkt zugegriffen, die an den Private Service Connect-Dienstanhang Ihres Endpunkts weitergeleitet wird.
Falls noch nicht bekannt, können Sie die IP-Adresse, die an den URI des Dienst-Anhangs weitergeleitet wird, mit den Befehlen gcloud ai index-endpoints describe
und gcloud compute forwarding-rules list
abrufen.
Ersetzen Sie die folgenden Werte:
- INDEX_ENDPOINT_ID: Vollständige Indexendpunkt-ID.
- REGION: Die Region, in der Ihr Indexendpunkt bereitgestellt ist.
SERVICE_ATTACHMENT_URI=`gcloud ai index-endpoints describe INDEX_ENDPOINT_ID \ --region=REGION \ --format="value(deployedIndexes.privateEndpoints.serviceAttachment)"` gcloud compute forwarding-rules list --filter="TARGET:${SERVICE_ATTACHMENT_URI}"
Die Ausgabe enthält die interne IP-Adresse, die bei der Abfrage der IndexEndpoint
verwendet werden soll.
Python
Informationen zur Installation des Vertex AI SDK for Python finden Sie unter Vertex AI SDK for Python installieren. Weitere Informationen finden Sie in der Referenzdokumentation zur Python API.
Befehlszeile
Zum Abfragen eines DeployedIndex
stellen Sie eine Verbindung zu seiner TARGET_IP
an Port 10000
her und rufen die Methode Match
oder BatchMatch
auf. Außerdem können Sie Abfragen mit einer bestimmten Einbettungs-ID stellen.
In den folgenden Beispielen wird das Open-Source-Tool grpc_cli
verwendet, um gRPC-Anfragen an den bereitgestellten Indexserver zu senden.
Match
.
./grpc_cli call ${TARGET_IP}:10000 google.cloud.aiplatform.container.v1.MatchService.Match 'deployed_index_id: "${DEPLOYED_INDEX_ID}", float_val: [-0.1,..]'
Im zweiten Beispiel kombinieren Sie zwei separate Abfragen in derselben BatchMatch
-Anfrage.
./grpc_cli call ${TARGET_IP}:10000 google.cloud.aiplatform.container.v1.MatchService.BatchMatch 'requests: [{deployed_index_id: "${DEPLOYED_INDEX_ID}", requests: [{deployed_index_id: "${DEPLOYED_INDEX_ID}", float_val: [-0.1,..]}, {deployed_index_id: "${DEPLOYED_INDEX_ID}", float_val: [-0.2,..]}]}]'
Sie müssen diese APIs von einem Client aus aufrufen, der in derselben VPC ausgeführt wird, [zu der eine Peering-Verbindung des Dienstes hergestellt wurde](#vpc-network-peering-setup).
Im folgenden Beispiel wird eine Abfrage mit einem embedding_id
ausgeführt.
./grpc_cli call ${TARGET_IP}:10000 google.cloud.aiplatform.container.v1.MatchService.Match "deployed_index_id:'"test_index1"',embedding_id: '"606431"'"
In diesem Beispiel senden Sie eine Abfrage mit Token- und numerischen Einschränkungen.
./grpc_cli call ${TARGET_IP}:10000 google.cloud.aiplatform.container.v1.MatchService.Match 'deployed_index_id: "${DEPLOYED_INDEX_ID}", float_val: [1, 1], "sparse_embedding": {"values": [111.0,111.1,111.2], "dimensions": [10,20,30]}, numeric_restricts: [{name: "double-ns", value_double: 0.3, op: LESS_EQUAL}, {name: "double-ns", value_double: -1.2, op: GREATER}, {name: "double-ns", value_double: 0., op: NOT_EQUAL}], restricts: [{name: "color", allow_tokens: ["red"]}]'
Weitere Informationen finden Sie unter Erläuterung zu Clientbibliotheken.
Console
Folgen Sie dieser Anleitung, um einen VPC-Index über die Console abzufragen.
- Wechseln Sie im Abschnitt „Vertex AI“ der Google Cloud Console zum Abschnitt Bereitstellen und verwenden. Wählen Sie Vektorsuche
- Wählen Sie den VPC-Index aus, den Sie abfragen möchten. Die Seite Indexinformationen wird geöffnet.
- Scrollen Sie nach unten zum Bereich Bereitgestellte Indexe und wählen Sie den bereitgestellten Index aus, den Sie abfragen möchten. Die Seite Informationen zum bereitgestellten Index wird geöffnet.
- Wählen Sie im Bereich Abfrageindex die Abfrageparameter aus. Sie können nach einem Vektor oder einem bestimmten Datenpunkt abfragen.
- Führen Sie die Abfrage mit dem Open-Source-Tool grpc_cli oder mit dem Vertex AI SDK für Python aus.
Mit VPC-Netzwerk-Peering bereitgestellt
Python
Informationen zur Installation des Vertex AI SDK for Python finden Sie unter Vertex AI SDK for Python installieren. Weitere Informationen finden Sie in der Referenzdokumentation zur Python API.
Hinweis:Das Python SDK sucht automatisch die IP-Adresse für eine mit VPC-Netzwerk-Peering bereitgestellte IndexEndpoint
.
Befehlszeile
Jeder DeployedIndex
hat eine TARGET_IP
, die Sie in Ihrer Liste der IndexEndpoints
abrufen können.
Zum Abfragen eines DeployedIndex
stellen Sie eine Verbindung zu seiner TARGET_IP
an Port 10000
her und rufen die Methode Match
oder BatchMatch
auf. Außerdem können Sie Abfragen mit einer bestimmten Einbettungs-ID stellen.
In den folgenden Beispielen wird das Open-Source-Tool grpc_cli
verwendet, um gRPC-Anfragen an den bereitgestellten Indexserver zu senden.
Match
.
./grpc_cli call ${TARGET_IP}:10000 google.cloud.aiplatform.container.v1.MatchService.Match 'deployed_index_id: "${DEPLOYED_INDEX_ID}", float_val: [-0.1,..]'
Im zweiten Beispiel kombinieren Sie zwei separate Abfragen in derselben BatchMatch
-Anfrage.
./grpc_cli call ${TARGET_IP}:10000 google.cloud.aiplatform.container.v1.MatchService.BatchMatch 'requests: [{deployed_index_id: "${DEPLOYED_INDEX_ID}", requests: [{deployed_index_id: "${DEPLOYED_INDEX_ID}", float_val: [-0.1,..]}, {deployed_index_id: "${DEPLOYED_INDEX_ID}", float_val: [-0.2,..]}]}]'
Sie müssen diese APIs von einem Client aus aufrufen, der in derselben VPC ausgeführt wird, [zu der eine Peering-Verbindung des Dienstes hergestellt wurde](#vpc-network-peering-setup).
Im folgenden Beispiel wird eine Abfrage mit einem embedding_id
ausgeführt.
./grpc_cli call ${TARGET_IP}:10000 google.cloud.aiplatform.container.v1.MatchService.Match "deployed_index_id:'"test_index1"',embedding_id: '"606431"'"
In diesem Beispiel senden Sie eine Abfrage mit Token- und numerischen Einschränkungen.
./grpc_cli call ${TARGET_IP}:10000 google.cloud.aiplatform.container.v1.MatchService.Match 'deployed_index_id: "${DEPLOYED_INDEX_ID}", float_val: [1, 1], "sparse_embedding": {"values": [111.0,111.1,111.2], "dimensions": [10,20,30]}, numeric_restricts: [{name: "double-ns", value_double: 0.3, op: LESS_EQUAL}, {name: "double-ns", value_double: -1.2, op: GREATER}, {name: "double-ns", value_double: 0., op: NOT_EQUAL}], restricts: [{name: "color", allow_tokens: ["red"]}]'
Weitere Informationen finden Sie unter Erläuterung zu Clientbibliotheken.
Console
Folgen Sie dieser Anleitung, um einen VPC-Index über die Console abzufragen.
- Wechseln Sie im Abschnitt „Vertex AI“ der Google Cloud Console zum Abschnitt Bereitstellen und verwenden. Wählen Sie Vektorsuche
- Wählen Sie den VPC-Index aus, den Sie abfragen möchten. Die Seite Indexinformationen wird geöffnet.
- Scrollen Sie nach unten zum Bereich Bereitgestellte Indexe und wählen Sie den bereitgestellten Index aus, den Sie abfragen möchten. Die Seite Informationen zum bereitgestellten Index wird geöffnet.
- Wählen Sie im Bereich Abfrageindex die Abfrageparameter aus. Sie können nach einem Vektor oder einem bestimmten Datenpunkt abfragen.
- Führen Sie die Abfrage mit dem Open-Source-Tool grpc_cli oder mit dem Vertex AI SDK für Python aus.
Einstellungen beim Abfragezeitpunkt, die sich auf die Leistung auswirken
Die folgenden Parameter für die Abfragezeit können sich bei der Verwendung der Vektorsuche auf Latenz, Verfügbarkeit und Kosten auswirken. Diese Empfehlung gilt in den meisten Fällen. Testen Sie jedoch immer mit Ihren Konfigurationen, ob sie sich für Ihren Anwendungsfall eignen.
Informationen zu Parameterdefinitionen finden Sie unter Parameter für die Indexkonfiguration.
Parameter | Info | Auswirkungen auf die Leistung |
---|---|---|
approximateNeighborsCount |
Gibt dem Algorithmus die Anzahl der ungefähren Ergebnisse an, die von jedem Shard abgerufen werden sollen.
Der Wert von |
Das Erhöhen des Werts von
Wenn Sie den Wert von
|
setNeighborCount |
Gibt die Anzahl der Ergebnisse an, die durch die Abfrage zurückgegeben werden sollen. |
Werte unter oder gleich 300 bleiben in den meisten Anwendungsfällen leistungsfähig. Bei größeren Werten sollten Sie für Ihren spezifischen Anwendungsfall testen. |
fractionLeafNodesToSearch |
Steuert den Prozentsatz der Blattknoten, die bei der Suche nach nächsten Nachbarn besucht werden. Dies steht in Bezug auf leafNodeEmbeddingCount insofern, als je mehr Einbettungen pro Blattknoten umso mehr Daten pro Blatt untersucht werden.
|
Das Erhöhen des Werts von
Das Verringern des Werts von
|
Nächste Schritte
- Index aktualisieren und neu erstellen
- Weitere Informationen zum Filtern von Vektorübereinstimmungen
- Index beobachten