Beispiel für Einbettungsworkflows verstehen

Diese Seite enthält ein Beispiel für einen Workflow, der zeigt, wie embedding()-Funktion mit den Daten, die in Ihren Tabellen gespeichert sind, und der pgvector Abfragefunktionalität arbeiten. In diesem Beispiel wird eine Nur-Text-Eingabe verwendet, um ein Ergebnis aus einer Datenbank abzurufen, die auf dem semantischen Parsen der Textbedeutung Durch eine LLM (Large Language Model) basiert.

Beispielszenario für einen Einbettungsworkflow

Angenommen, Sie haben eine Datenbank, die auf Cloud SQL for PostgreSQL ausgeführt wird, mit den folgenden Aspekten:

  • Die Datenbank enthält eine Tabelle: items. In jeder Zeile dieser Tabelle wird ein Artikel beschrieben, den Ihr Unternehmen verkauft.

  • Die Tabelle items enthält eine Spalte: complaints. In dieser Spalte werden Käuferbeschwerden gelogged, die zu den einzelnen Artikeln als Nur-Text protokolliert werden.

  • Die Datenbank kann in den Vertex AI Model Garden eingebunden werden und ermöglicht so Zugriff auf das LLM textembedding-gecko.

In dieser Datenbank werden zwar Beschwerden zu Artikeln gespeichert, diese Beschwerden werden jedoch als Nur-Text gespeichert, was Abfragen erschwert. Wenn Sie beispielsweise sehen möchten, welche Artikel die meisten Beschwerden von Kunden haben, die eine falsche Farbversion erhalten haben, können Sie normale SQL-Abfragen auf der Tabelle ausführen und nach verschiedenen Schlüsselwortübereinstimmungen suchen. Bei diesem Ansatz werden jedoch nur Zeilen abgeglichen, die genau diese Keywords enthalten.

Eine einfache SQL-Abfrage wie SELECT * FROM item WHERE complaints LIKE "%wrong color%" gibt beispielsweise keine Zeile zurück, in der das Feld complaints nur The picture shows a blue one, but the one I received was red enthält.

SQL-Abfragen mit LLM-gestützten Einbettungen können diese Lücke schließen. Wenn Sie Einbettungen anwenden, können Sie die Tabelle in diesem Beispiel nach Elementen abfragen, in denen Beschwerden eine semantische Ähnlichkeit mit einem bestimmten Text-Prompt haben, beispielsweise: „Es hatte die falsche Farbe“.

In den folgenden Schritten wird beschrieben, wie Sie dies im oben beschriebenen Beispielszenario aktivieren.

Tabelle vorbereiten

Bevor Sie LLM-basierte Abfragen auf den Inhalt der Tabelle items ausführen, müssen Sie die Tabelle so vorbereiten, dass Einbettungen anhand Ihrer vorhandenen Daten gespeichert und indexiert werden können.

Spalte zum Speichern von Einbettungen erstellen

Fügen Sie der Tabelle eine Spalte zum Speichern von Einbettungen hinzu.

ALTER TABLE items ADD COLUMN complaint_embedding vector(768);

In diesem Beispiel wird 768 als Argument angegeben, da das LLM textembedding-gecko diese Anzahl an Dimensionen unterstützt. Weitere Informationen finden Sie unter Embeddings generieren.

Im Beispiel wird der Datentyp vector auf die Spalte angewendet, um die Verwendung von pgvector-Funktionen und ‑Operatoren mit den Werten der Spalte zu vereinfachen.

Neue Spalte füllen

Verwenden Sie die Funktion embedding(), um diese neue Spalte mit Einbettungen zu füllen, die auf dem Textwert der einzelnen Zeilen basieren, der in der Spalte complaints angezeigt werden. In diesem Beispiel generiert Cloud SQL die Einbettungen mit dem LLM mit der ID textembedding-gecko, Version 004.

UPDATE items SET complaint_embedding = embedding('textembedding-gecko@004', complaints);

Dieses Beispiel überträgt den real[]-Rückgabewert embedding() implizit in einen vector-Wert, um den Wert in der vector-Spalte zu speichern, die Sie in Spalte zum Speichern von Einbettungen erstellen erstellt haben.

Index erstellen

Fügen Sie der Tabelle items einen Index hinzu, um die Leistung zu verbessern.

CREATE INDEX complaint_embed_idx ON items
  USING hnsw (complaint_embedding vector_cosine_ops);

Weitere Informationen zum Erstellen dieser Art von Index finden Sie unter Nächster-Nachbar-Index erstellen. Weitere Informationen zum Optimieren des Index durch Festlegen von Parametern finden Sie unter Einbettungen mit abfragen und indexieren.pgvector

LLM-gestützte Abfragen mit bereitgestelltem Text ausführen

Sie können jetzt semantische Abfragen nach nächsten Nachbarn für die Tabelle items erstellen. In der folgenden Abfrage wird der Operator <-> von pgvector verwendet, um die folgenden Aktionen auszuführen:

  • Sortieren Sie die Zeilen der Tabelle nach semantischem Bezug zum Text von It was the wrong color.
  • Die zehn häufigsten Beschwerden zurückgeben.

In der Abfrage werden die Werte id und name der ersten sortierten Zeile angezeigt.

SELECT id, name FROM items
  ORDER BY complaint_embedding
  <-> embedding('textembedding-gecko@004', 'It was the wrong color')::vector LIMIT 10;

Nächste Schritte