Generative KI-Anwendungen mit AlloyDB AI erstellen

Wählen Sie eine Dokumentationsversion aus:

AlloyDB AI ist eine Reihe von Funktionen, die in AlloyDB for PostgreSQL und AlloyDB Omni enthalten sind und mit denen Sie die semantischen und prädiktiven Möglichkeiten von ML-Modellen (maschinelles Lernen) auf Ihre Daten anwenden können. Auf dieser Seite finden Sie einen Überblick über die KI-Funktionen, die auf maschinellem Lernen basieren und über AlloyDB verfügbar sind.

Vektoren speichern, indexieren und abfragen

Die Standarderweiterung pgvector PostgreSQL wurde für AlloyDB angepasst und wird als vector bezeichnet. Es unterstützt das Speichern generierter Einbettungen in einer Vektorspalte. Die Erweiterung bietet auch Unterstützung für die skalare Quantisierungsfunktion zum Erstellen von IVF-Indexen. Sie können auch einen IVFFlat-Index oder HSNW-Index erstellen, die mit dem Standard-pgvector verfügbar sind.

Weitere Informationen zum Speichern von Vektoren finden Sie unter Vektoren speichern.

Zusätzlich zur benutzerdefinierten Erweiterung vector enthält AlloyDB die Erweiterung alloydb_scann, die einen hocheffizienten Nearest-Neighbor-Index implementiert, der auf dem ScaNN-Algorithmus basiert.

Weitere Informationen zum Erstellen von Indizes und zum Abfragen von Vektoren finden Sie unter Indizes erstellen und Vektoren abfragen.

Leistung von Vektorabfragen optimieren

Sie können Ihre Indexe so abstimmen, dass ein Gleichgewicht zwischen Abfragen pro Sekunde und Recall erreicht wird. Weitere Informationen zum Optimieren von Indexen finden Sie unter Leistung von Vektorabfragen optimieren.

Einbettungen und Textvorhersagen generieren

AlloyDB AI erweitert die PostgreSQL-Syntax um zwei Funktionen zum Abfragen von Modellen mit der Erweiterung google_ml_integration:

  • Vorhersagen aufrufen, um ein Modell mithilfe von SQL innerhalb einer Transaktion aufzurufen.

  • Einbettungen generieren, damit ein LLM Text-Prompts in numerische Vektoren übersetzt.

    Mit der embedding()-Funktion können Sie Vertex AI-Modelle abfragen, während die google_ml.embedding()-Funktion zum Abfragen registrierter Vertex AI-, gehosteter und Drittanbietermodelle verwendet werden kann.

    Anschließend können Sie diese Vektoreinbettungen als Eingabe für pgvector-Funktionen verwenden. Dazu gehören Methoden zum Vergleichen und Sortieren von Textbeispielen anhand ihrer relativen semantischen Entfernung.

Modelle in der Cloud mit Vertex AI verwenden

Sie können AlloyDB Omni für die Verwendung mit Vertex AI konfigurieren.

Das bietet folgende Vorteile für Ihre Anwendungen:

Nächste Schritte