Mendapatkan embedding teks Vertex AI

Halaman ini menjelaskan cara menggunakan Vertex AI text-embeddings API untuk membuat, menyimpan, dan memperbarui embedding teks untuk data yang disimpan di database dialek GoogleSQL dan database dialek PostgreSQL Spanner.

Embedding teks adalah representasi vektor dari data teks, dan digunakan dengan berbagai cara untuk menemukan item yang serupa. Anda berinteraksi dengan embedding teks setiap kali menyelesaikan Penelusuran Google atau melihat rekomendasi saat berbelanja online. Saat membuat embedding teks, Anda akan mendapatkan representasi vektor teks alami sebagai array bilangan floating point. Artinya, semua teks input Anda diberikan representasi numerik. Dengan membandingkan jarak numerik antara representasi vektor dari dua bagian teks, aplikasi dapat menentukan kesamaan antara teks atau objek yang diwakili oleh teks.

Dengan text-embeddings API Vertex AI, Anda dapat membuat embedding teks dengan AI Generatif. Dalam tutorial ini, Anda menggunakan model text-embedding Vertex AI untuk membuat embedding teks untuk data yang disimpan di Spanner.

Untuk mempelajari lebih lanjut embedding, lihat artikel Mendapatkan embedding teks.

Tujuan

Dalam tutorial ini, Anda akan mempelajari cara:

  • Mendaftarkan model text-embedding Vertex AI dalam skema Spanner menggunakan pernyataan DDL.
  • Mereferensikan model terdaftar menggunakan kueri SQL untuk membuat embedding dari data yang disimpan di Spanner.

Harga

Tutorial ini menggunakan komponen Google Cloudyang dapat ditagih, termasuk:

  • Spanner
  • Vertex AI

Untuk mengetahui informasi selengkapnya tentang biaya Spanner, lihat halaman Harga Spanner.

Untuk mengetahui informasi selengkapnya tentang biaya Vertex AI, lihat halaman harga Vertex AI.

Membuat dan menyimpan embedding teks

Bergantung pada model yang Anda gunakan, pembuatan embedding mungkin memerlukan waktu beberapa saat. Untuk beban kerja yang lebih sensitif terhadap performa, praktik terbaiknya adalah menghindari pembuatan embedding dalam transaksi baca-tulis. Sebagai gantinya, buat embedding dalam transaksi hanya baca menggunakan contoh SQL berikut.

GoogleSQL

Mendaftarkan model penyematan teks di Spanner

Di GoogleSQL, Anda harus mendaftarkan model sebelum menggunakannya dengan fungsi ML.PREDICT. Untuk mendaftarkan model text-embedding di database Spanner, jalankan pernyataan DDL berikut:

CREATE MODEL MODEL_NAME
INPUT(content STRING(MAX))
OUTPUT(
  embeddings
    STRUCT<
      statistics STRUCT<truncated BOOL, token_count FLOAT64>,
      values ARRAY<FLOAT64>>
)
REMOTE OPTIONS (
  endpoint = '//aiplatform.googleapis.com/projects/PROJECT/locations/LOCATION/publishers/google/models/text-embedding$MODEL_VERSION'
);

Ganti kode berikut:

  • MODEL_NAME: nama model penyematan
  • PROJECT: project yang menghosting endpoint Vertex AI
  • LOCATION: lokasi endpoint Vertex AI
  • MODEL_VERSION: versi model penyematan text-embedding

Spanner memberikan izin yang sesuai secara otomatis. Jika tidak, tinjau kontrol akses endpoint model.

Penemuan dan validasi skema tidak tersedia untuk model AI Generatif. Anda wajib memberikan klausa INPUT dan OUTPUT yang cocok dengan skema model. Untuk skema lengkap model embedding teks, lihat Mendapatkan embedding teks.

Membuat embedding teks

Untuk membuat embedding, teruskan potongan teks langsung ke fungsi ML.PREDICT menggunakan SQL berikut:

SELECT embeddings.values
FROM ML.PREDICT(
  MODEL MODEL_NAME,
  (SELECT "A product description" as content)
);

Untuk membuat embedding bagi data yang disimpan dalam tabel, gunakan SQL berikut:

SELECT id, embeddings.values
FROM ML.PREDICT(
  MODEL MODEL_NAME,
  (SELECT id, description as content FROM Products)
);

Menyimpan embedding teks

Setelah membuat embedding dalam transaksi hanya baca, simpan embedding tersebut di Spanner agar dapat dikelola dengan data operasional Anda. Untuk menyimpan embedding, gunakan transaksi baca-tulis.

Untuk workload yang kurang sensitif terhadap performa, Anda dapat membuat dan menyisipkan sematan dengan SQL berikut dalam transaksi baca-tulis:

CREATE TABLE Products(
  id INT64 NOT NULL,
  description STRING(MAX),
  embeddings ARRAY<FLOAT32>,
) PRIMARY KEY(id);

INSERT INTO Products (id, description, embeddings)
SELECT @Id, @Description, embeddings.values
FROM ML.PREDICT(
  MODEL MODEL_NAME,
  (SELECT @Description as content)
);

PostgreSQL

Membuat embedding teks

Untuk membuat embedding, teruskan potongan teks langsung ke fungsi spanner.ML_PREDICT_ROW menggunakan SQL berikut:

SELECT
  spanner.ML_PREDICT_ROW(
    'projects/PROJECT/locations/LOCATION/publishers/google/models/text-embedding$MODEL_VERSION',
    '{"instances": [{"content": "A product description"}]}'::jsonb
  ) ->'predictions'->0->'embeddings'->'values';

Ganti kode berikut:

  • PROJECT: project yang menghosting endpoint Vertex AI
  • LOCATION: lokasi endpoint Vertex AI
  • MODEL_VERSION: versi model penyematan text-embedding

Untuk membuat embedding bagi data yang disimpan dalam tabel, gunakan SQL berikut:

SELECT id, spanner.ML_PREDICT_ROW(
    'projects/PROJECT/locations/LOCATION/publishers/google/models/text-embedding$MODEL_VERSION',
    JSONB_BUILD_OBJECT('instances', JSONB_BUILD_ARRAY(JSONB_BUILD_OBJECT('content', description))))
  ) -> `predictions`->0->`embeddings`->`values``
FROM Products;

Ganti kode berikut:

  • PROJECT: project yang menghosting endpoint Vertex AI
  • LOCATION: lokasi endpoint Vertex AI
  • MODEL_VERSION: versi model penyematan text-embedding

Menyimpan embedding teks

Setelah membuat embedding dalam transaksi hanya baca, simpan embedding tersebut di Spanner agar dapat dikelola dengan data operasional Anda. Untuk menyimpan embedding, gunakan transaksi baca-tulis.

Untuk workload yang kurang sensitif terhadap performa, Anda dapat membuat dan menyisipkan sematan dengan SQL berikut dalam transaksi baca-tulis:

CREATE TABLE Products (
  id INT8 NOT NULL,
  description TEXT,
  embeddings REAL[],
  PRIMARY KEY(id)
);

INSERT INTO Products (id, description, embeddings)
SELECT @Id, @Description, spanner.FLOAT32_ARRAY(spanner.ML_PREDICT_ROW(
    'projects/PROJECT/locations/LOCATION/publishers/google/models/text-embedding$MODEL_VERSION',
    JSONB_BUILD_OBJECT('instances', JSONB_BUILD_ARRAY(JSONB_BUILD_OBJECT('content', @Description)))
  ) -> 'predictions'->0->'embeddings'->'values'
));

Ganti kode berikut:

  • PROJECT: project yang menghosting endpoint Vertex AI
  • LOCATION: lokasi endpoint Vertex AI
  • MODEL_VERSION: versi model penyematan text-embedding

Memperbarui embedding teks

Untuk memperbarui sematan atau menyerap data secara real-time, gunakan pernyataan UPDATE (GoogleSQL dan PostgreSQL).

Untuk mengupdate tabel Products dalam contoh sebelumnya, gunakan SQL berikut:

GoogleSQL 

UPDATE Products
SET
  description = @description,
  embeddings = (SELECT embeddings.values
                  FROM ML.PREDICT(MODEL MODEL_NAME, (SELECT @description as content))
              )
WHERE id = @id;

Ganti kode berikut:

  • MODEL_NAME: nama model penyematan

PostgreSQL 

UPDATE
  Products
SET
  description = $1,
  embeddings = spanner.FLOAT32_ARRAY(
    spanner.ML_PREDICT_ROW(
      'projects/PROJECT/locations/LOCATION/publishers/google/models/text-embedding$MODEL_VERSION',
      JSONB_BUILD_OBJECT('instances', JSONB_BUILD_ARRAY(JSONB_BUILD_OBJECT('content', $1)))
    ) -> 'predictions'->0->'embeddings'->'values')
WHERE
  id = $2;

Ganti kode berikut:

  • PROJECT: project yang menghosting endpoint Vertex AI
  • LOCATION: lokasi endpoint Vertex AI
  • MODEL_VERSION: versi model penyematan text-embedding

Langkah berikutnya