Nachdem Sie einen VPC-Netzwerk-Peering- oder Private Service Connect-Indexendpunkt bereitgestellt haben, unterscheidet sich die Abfrage je nach Bereitstellungsmethode:
- Automatisierung von Private Service Connect
- Manuelle Konfiguration von Private Service Connect
- VPC-Netzwerk-Peering
Mit Private Service Connect-Automatisierung bereitgestellt
Für IndexEndpoints
, die mit Private Service Connect-Automatisierung bereitgestellt werden, ordnet das Python SDK das Private Service Connect-Netzwerk automatisch dem entsprechenden Endpunkt zu. Wenn Sie das Python SDK nicht verwenden, müssen Sie gemäß der Anleitung zum Abfragen einer manuellen Private Service Connect-Bereitstellung eine direkte Verbindung zur erstellten IP-Adresse für Ihren Endpunkt herstellen.
Python
Informationen zur Installation des Vertex AI SDK for Python finden Sie unter Vertex AI SDK for Python installieren. Weitere Informationen finden Sie in der Python-API-Referenzdokumentation.
Mit manueller Konfiguration von Private Service Connect bereitgestellt
Bei Private Service Connect IndexEndpoints
, die mit einer manuell konfigurierten Verbindung bereitgestellt werden, wird auf Ihren Endpunkt über die IP-Adresse der Compute-Adresse zugegriffen, die an den Private Service Connect-Dienstanhang Ihres Endpunkts weitergeleitet wird.
Wenn Sie die IP-Adresse, die an den URI des Dienstanhangs weitergeleitet wird, noch nicht kennen, können Sie sie mit den Befehlen gcloud ai index-endpoints describe
und gcloud compute forwarding-rules list
abrufen.
Ersetzen Sie die folgenden Werte:
- INDEX_ENDPOINT_ID: Vollständig qualifizierte ID des Indexendpunkts.
- REGION: Die Region, in der Ihr Indexendpunkt bereitgestellt wird.
SERVICE_ATTACHMENT_URI=`gcloud ai index-endpoints describe INDEX_ENDPOINT_ID \ --region=REGION \ --format="value(deployedIndexes.privateEndpoints.serviceAttachment)"` gcloud compute forwarding-rules list --filter="TARGET:${SERVICE_ATTACHMENT_URI}"
Die Ausgabe enthält die interne IP-Adresse, die beim Abfragen von IndexEndpoint
verwendet werden soll.
Python
Informationen zur Installation des Vertex AI SDK for Python finden Sie unter Vertex AI SDK for Python installieren. Weitere Informationen finden Sie in der Python-API-Referenzdokumentation.
Befehlszeile
Zum Abfragen eines DeployedIndex
stellen Sie eine Verbindung zu seiner TARGET_IP
an Port 10000
her und rufen die Methode Match
oder BatchMatch
auf. Außerdem können Sie mit einer bestimmten Einbettungs-ID abfragen.
In den folgenden Beispielen wird das Open-Source-Tool grpc_cli
verwendet, um gRPC-Anfragen an den bereitgestellten Indexserver zu senden.
Match
.
./grpc_cli call ${TARGET_IP}:10000 google.cloud.aiplatform.container.v1.MatchService.Match 'deployed_index_id: "${DEPLOYED_INDEX_ID}", float_val: [-0.1,..]'
Im zweiten Beispiel kombinieren Sie zwei separate Abfragen in derselben BatchMatch
-Anfrage.
./grpc_cli call ${TARGET_IP}:10000 google.cloud.aiplatform.container.v1.MatchService.BatchMatch 'requests: [{deployed_index_id: "${DEPLOYED_INDEX_ID}", requests: [{deployed_index_id: "${DEPLOYED_INDEX_ID}", float_val: [-0.1,..]}, {deployed_index_id: "${DEPLOYED_INDEX_ID}", float_val: [-0.2,..]}]}]'
Sie müssen diese APIs von einem Client aus aufrufen, der in derselben VPC, die über Peering mit dem Dienst verbunden wurde, ausgeführt wird.
Wenn Sie eine Abfrage mit einem embedding_id
ausführen möchten, verwenden Sie das folgende Beispiel.
./grpc_cli call ${TARGET_IP}:10000 google.cloud.aiplatform.container.v1.MatchService.Match "deployed_index_id:'"test_index1"',embedding_id: '"606431"'"
In diesem Beispiel senden Sie eine Abfrage mit Token- und numerischen Einschränkungen.
./grpc_cli call ${TARGET_IP}:10000 google.cloud.aiplatform.container.v1.MatchService.Match 'deployed_index_id: "${DEPLOYED_INDEX_ID}", float_val: [1, 1], "sparse_embedding": {"values": [111.0,111.1,111.2], "dimensions": [10,20,30]}, numeric_restricts: [{name: "double-ns", value_double: 0.3, op: LESS_EQUAL}, {name: "double-ns", value_double: -1.2, op: GREATER}, {name: "double-ns", value_double: 0., op: NOT_EQUAL}], restricts: [{name: "color", allow_tokens: ["red"]}]'
Weitere Informationen finden Sie unter Erläuterung zu Clientbibliotheken.
Console
Folgen Sie dieser Anleitung, um einen VPC-Index über die Console abzufragen.
- Wechseln Sie im Abschnitt „Vertex AI“ der Google Cloud Console zum Abschnitt Bereitstellen und verwenden. Wählen Sie Vektorsuche aus.
- Wählen Sie den VPC-Index aus, den Sie abfragen möchten. Die Seite Indexinformationen wird geöffnet.
- Scrollen Sie nach unten zum Bereich Bereitgestellte Indexe und wählen Sie den bereitgestellten Index aus, den Sie abfragen möchten. Die Seite Informationen zum bereitgestellten Index wird geöffnet.
- Wählen Sie im Bereich Query index (Abfrageindex) Ihre Abfrageparameter aus. Sie können die Abfrage mit einem Vektor oder einem bestimmten Datenpunkt durchführen.
- Führen Sie die Abfrage mit dem Open-Source-Tool grpc_cli oder mit dem Vertex AI SDK für Python aus.
Mit VPC-Netzwerk-Peering bereitgestellt
Python
Informationen zur Installation des Vertex AI SDK for Python finden Sie unter Vertex AI SDK for Python installieren. Weitere Informationen finden Sie in der Python-API-Referenzdokumentation.
Hinweis:Das Python SDK sucht automatisch die IP-Adresse für eine IndexEndpoint
, die mit VPC-Netzwerk-Peering bereitgestellt wird.
Befehlszeile
Jeder DeployedIndex
hat eine TARGET_IP
, die Sie in Ihrer Liste der IndexEndpoints
abrufen können.
Zum Abfragen eines DeployedIndex
stellen Sie eine Verbindung zu seiner TARGET_IP
an Port 10000
her und rufen die Methode Match
oder BatchMatch
auf. Außerdem können Sie mit einer bestimmten Einbettungs-ID abfragen.
In den folgenden Beispielen wird das Open-Source-Tool grpc_cli
verwendet, um gRPC-Anfragen an den bereitgestellten Indexserver zu senden.
Match
.
./grpc_cli call ${TARGET_IP}:10000 google.cloud.aiplatform.container.v1.MatchService.Match 'deployed_index_id: "${DEPLOYED_INDEX_ID}", float_val: [-0.1,..]'
Im zweiten Beispiel kombinieren Sie zwei separate Abfragen in derselben BatchMatch
-Anfrage.
./grpc_cli call ${TARGET_IP}:10000 google.cloud.aiplatform.container.v1.MatchService.BatchMatch 'requests: [{deployed_index_id: "${DEPLOYED_INDEX_ID}", requests: [{deployed_index_id: "${DEPLOYED_INDEX_ID}", float_val: [-0.1,..]}, {deployed_index_id: "${DEPLOYED_INDEX_ID}", float_val: [-0.2,..]}]}]'
Sie müssen diese APIs von einem Client aus aufrufen, der in derselben VPC, die über Peering mit dem Dienst verbunden wurde, ausgeführt wird.
Wenn Sie eine Abfrage mit einem embedding_id
ausführen möchten, verwenden Sie das folgende Beispiel.
./grpc_cli call ${TARGET_IP}:10000 google.cloud.aiplatform.container.v1.MatchService.Match "deployed_index_id:'"test_index1"',embedding_id: '"606431"'"
In diesem Beispiel senden Sie eine Abfrage mit Token- und numerischen Einschränkungen.
./grpc_cli call ${TARGET_IP}:10000 google.cloud.aiplatform.container.v1.MatchService.Match 'deployed_index_id: "${DEPLOYED_INDEX_ID}", float_val: [1, 1], "sparse_embedding": {"values": [111.0,111.1,111.2], "dimensions": [10,20,30]}, numeric_restricts: [{name: "double-ns", value_double: 0.3, op: LESS_EQUAL}, {name: "double-ns", value_double: -1.2, op: GREATER}, {name: "double-ns", value_double: 0., op: NOT_EQUAL}], restricts: [{name: "color", allow_tokens: ["red"]}]'
Weitere Informationen finden Sie unter Erläuterung zu Clientbibliotheken.
Console
Folgen Sie dieser Anleitung, um einen VPC-Index über die Console abzufragen.
- Wechseln Sie im Abschnitt „Vertex AI“ der Google Cloud Console zum Abschnitt Bereitstellen und verwenden. Wählen Sie Vektorsuche aus.
- Wählen Sie den VPC-Index aus, den Sie abfragen möchten. Die Seite Indexinformationen wird geöffnet.
- Scrollen Sie nach unten zum Bereich Bereitgestellte Indexe und wählen Sie den bereitgestellten Index aus, den Sie abfragen möchten. Die Seite Informationen zum bereitgestellten Index wird geöffnet.
- Wählen Sie im Bereich Query index (Abfrageindex) Ihre Abfrageparameter aus. Sie können die Abfrage mit einem Vektor oder einem bestimmten Datenpunkt durchführen.
- Führen Sie die Abfrage mit dem Open-Source-Tool grpc_cli oder mit dem Vertex AI SDK für Python aus.
Einstellungen beim Abfragezeitpunkt, die sich auf die Leistung auswirken
Die folgenden Parameter für die Abfragezeit können sich bei der Verwendung der Vektorsuche auf Latenz, Verfügbarkeit und Kosten auswirken. Diese Empfehlung gilt in den meisten Fällen. Testen Sie jedoch immer mit Ihren Konfigurationen, ob sie sich für Ihren Anwendungsfall eignen.
Informationen zu Parameterdefinitionen finden Sie unter Parameter für die Indexkonfiguration.
Parameter | Info | Auswirkungen auf die Leistung |
---|---|---|
approximateNeighborsCount |
Gibt dem Algorithmus die Anzahl der ungefähren Ergebnisse an, die von jedem Shard abgerufen werden sollen.
Der Wert von
Der entsprechende REST API-Name für dieses Feld ist |
Das Erhöhen des Werts von
Wenn Sie den Wert von
|
setNeighborCount |
Gibt die Anzahl der Ergebnisse an, die durch die Abfrage zurückgegeben werden sollen.
Der entsprechende REST API-Name für dieses Feld ist |
Werte unter oder gleich 300 bleiben in den meisten Anwendungsfällen leistungsfähig. Bei größeren Werten sollten Sie für Ihren spezifischen Anwendungsfall testen. |
fractionLeafNodesToSearch |
Steuert den Prozentsatz der Blattknoten, die bei der Suche nach nächsten Nachbarn besucht werden. Dies steht in Bezug auf leafNodeEmbeddingCount insofern, als je mehr Einbettungen pro Blattknoten umso mehr Daten pro Blatt untersucht werden.
Der entsprechende REST API-Name für dieses Feld ist |
Das Erhöhen des Werts von
Das Verringern des Werts von
|
Nächste Schritte
- Index aktualisieren und neu erstellen
- Informationen zum Filtern von Vektorübereinstimmungen
- Index beobachten