使用 ML.GENERATE_EMBEDDING 函式生成文字嵌入

控制台

1. 前往 Google Cloud 控制台的「BigQuery」頁面。

   前往「BigQuery」頁面

2. 在「Explorer」窗格中，按一下專案名稱。

3. 依序點選 more_vert「View actions」(查看動作) >「Create dataset」(建立資料集)。

4. 在「Create dataset」頁面上執行下列操作：

   • 在「Dataset ID」(資料集 ID) 部分，輸入資料集名稱。

   • 在「位置類型」中，選取資料集的位置。

   • 點選「建立資料集」。

bq

1. 如要建立新的資料集，請使用 bq mk 指令搭配 --location 標記：

   bq --location=LOCATION mk -d DATASET_ID

   更改下列內容：

   • LOCATION：資料集的位置。
   • DATASET_ID 是您要建立的資料集 ID。

2. 確認資料集已建立：

   bq ls

主控台

1. 前往「BigQuery」頁面

   前往 BigQuery

2. 在「Explorer」窗格中，按一下 add「新增資料」：

   

   「Add data」對話方塊隨即開啟。

3. 在「Filter By」窗格中的「Data Source Type」部分，選取「Business Applications」。

   或者，您也可以在「Search for data sources」欄位中輸入 Vertex AI。

4. 在「精選資料來源」部分，按一下「Vertex AI」。

5. 按一下「Vertex AI 模型：BigQuery 聯盟」解決方案資訊卡。

6. 在「連線類型」清單中，選取「Vertex AI 遠端模型、遠端函式和 BigLake (Cloud 資源)」。

7. 在「連線 ID」欄位中，輸入連線的名稱。

8. 點選「建立連線」。

9. 按一下「前往連線」。

10. 在「連線資訊」窗格中，複製服務帳戶 ID，以便在後續步驟中使用。

bq

1. 在指令列環境中建立連線：

   bq mk --connection --location=REGION --project_id=PROJECT_ID \
       --connection_type=CLOUD_RESOURCE CONNECTION_ID

   --project_id 參數會覆寫預設專案。

   更改下列內容：

   • REGION：您的連線區域
   • PROJECT_ID：您的 Google Cloud 專案 ID
   • CONNECTION_ID：連線 ID

   建立連線資源時，BigQuery 會建立專屬的系統服務帳戶，並將該帳戶與連線建立關聯。

   疑難排解：如果您收到下列連線錯誤，請更新 Google Cloud SDK：

   Flags parsing error: flag --connection_type=CLOUD_RESOURCE: value should be one of...
   

2. 擷取並複製服務帳戶 ID，以便在後續步驟中使用：

   bq show --connection PROJECT_ID.REGION.CONNECTION_ID

   輸出結果會與下列內容相似：

   name                          properties
   1234.REGION.CONNECTION_ID     {"serviceAccountId": "connection-1234-9u56h9@gcp-sa-bigquery-condel.iam.gserviceaccount.com"}
   

Terraform

使用 google_bigquery_connection 資源。

如要向 BigQuery 進行驗證，請設定應用程式預設憑證。詳情請參閱「設定用戶端程式庫的驗證機制」。

以下範例會在 US 地區中建立名為 my_cloud_resource_connection 的 Cloud 資源連線：

# This queries the provider for project information.
data "google_project" "default" {}

# This creates a cloud resource connection in the US region named my_cloud_resource_connection.
# Note: The cloud resource nested object has only one output field - serviceAccountId.
resource "google_bigquery_connection" "default" {
  connection_id = "my_cloud_resource_connection"
  project       = data.google_project.default.project_id
  location      = "US"
  cloud_resource {}
}

如要在 Google Cloud 專案中套用 Terraform 設定，請完成下列各節中的步驟。

準備 Cloud Shell

1. 啟動 Cloud Shell。

2. 設定要套用 Terraform 設定的預設 Google Cloud 專案。

   您只需為每個專案執行這個指令一次，而且可以在任何目錄中執行。

   export GOOGLE_CLOUD_PROJECT=PROJECT_ID

   如果您在 Terraform 設定檔中設定明確的值，系統就會覆寫環境變數。

準備目錄

每個 Terraform 設定檔都必須有自己的目錄 (也稱為根模組)。

1. 在 Cloud Shell 中建立目錄，並在該目錄中建立新檔案。檔案名稱必須包含 .tf 副檔名，例如 main.tf。在本教學課程中，檔案稱為 main.tf。

   mkdir DIRECTORY && cd DIRECTORY && touch main.tf

2. 如果您正在參考教學課程，可以複製各個章節或步驟中的程式碼範例。

   將範例程式碼複製到新建立的 main.tf 中。

   您可以視需要從 GitHub 複製程式碼。如果 Terraform 程式碼片段是端對端解決方案的一部分，建議您採用這種做法。

3. 查看並修改要套用至環境的範例參數。
4. 儲存變更。
5. 初始化 Terraform。這項操作只需對每個目錄執行一次。

   terraform init

   如要使用最新版的 Google 供應器，您可以選擇加入 -upgrade 選項：

   terraform init -upgrade

套用變更

1. 檢查設定，確認 Terraform 要建立或更新的資源符合您的預期：

   terraform plan

   視需要修正設定。

2. 執行下列指令，並在提示中輸入 yes，即可套用 Terraform 設定：

   terraform apply

   等待 Terraform 顯示「Apply complete!」(套用完成) 訊息。

3. 開啟 Google Cloud 專案即可查看結果。在 Google Cloud 控制台中，前往 UI 中的資源，確認 Terraform 已建立或更新這些資源。

主控台

1. 前往「IAM & Admin」(IAM 與管理) 頁面。

   前往「IAM & Admin」(IAM 與管理)

2. 按一下「授予存取權」person_add。

   系統會開啟「Add principals」對話方塊。

3. 在「新增主體」欄位，輸入先前複製的服務帳戶 ID。

4. 在「請選擇角色」欄位中，依序選取「Vertex AI」和「Vertex AI 使用者」。

5. 按一下 [儲存]。

gcloud

使用 gcloud projects add-iam-policy-binding 指令：

gcloud projects add-iam-policy-binding 'PROJECT_NUMBER' --member='serviceAccount:MEMBER' --role='roles/aiplatform.user' --condition=None

請依指示取代下列項目：

• PROJECT_NUMBER：您的專案編號
• MEMBER：先前複製的服務帳戶 ID

文字嵌入

使用遠端模型 (而非嵌入模型) 生成文字嵌入：

SELECT *
FROM ML.GENERATE_EMBEDDING(
  MODEL `PROJECT_ID.DATASET_ID.MODEL_NAME`,
  TABLE PROJECT_ID.DATASET_ID.TABLE_NAME,
  STRUCT(FLATTEN_JSON AS flatten_json_output,
    TASK_TYPE AS task_type,
    OUTPUT_DIMENSIONALITY AS output_dimensionality)
);

請依指示取代下列項目：

• PROJECT_ID：您的專案 ID。
• DATASET_ID：包含模型的資料集 ID。
• MODEL_NAME：在嵌入模型中，遠端模型的名稱。
• TABLE_NAME：內含要嵌入文字的表格名稱。這個資料表必須有一個名為 content 的資料欄，或者您可以使用別名來使用名稱不同的資料欄。
• FLATTEN_JSON：BOOL 值，指出是否要將嵌入項目剖析為個別資料欄。預設值為 TRUE。
• TASK_TYPE：STRING 文字常值，可指定預期的後端應用程式，協助模型產生品質更優異的嵌入資料。TASK_TYPE 接受下列值：
  • RETRIEVAL_QUERY：指定指定文字是搜尋或擷取設定中的查詢。
  • RETRIEVAL_DOCUMENT：指定指定文字是搜尋或擷取設定中的文件。

    使用這類工作類型時，建議在查詢陳述式中加入文件標題，以改善嵌入品質。文件標題必須位於名為 title 的資料欄中，或別名為 title，例如：

          SELECT *
          FROM
            ML.GENERATE_EMBEDDING(
              MODEL mydataset.embedding_model,
              (SELECT abstract as content, header as title, publication_number
              FROM mydataset.publications),
              STRUCT(TRUE AS flatten_json_output, 'RETRIEVAL_DOCUMENT' as task_type)
          );
          

    在輸入查詢中指定標題欄，系統就會在傳送至模型的請求主體中填入 title 欄位。

  • SEMANTIC_SIMILARITY：指定指定文字將用於語意文字相似度 (STS)。
  • CLASSIFICATION：指定嵌入值將用於分類。
  • CLUSTERING：指定要將嵌入值用於叢集。
  • QUESTION_ANSWERING：指定要將嵌入值用於回答問題。
  • FACT_VERIFICATION：指定要將嵌入值用於事實驗證。
  • CODE_RETRIEVAL_QUERY：指定要使用嵌入資料來擷取程式碼。
• OUTPUT_DIMENSIONALITY：INT64 值，可指定產生嵌入資料時要使用的維度數量。舉例來說，如果您指定 256 AS output_dimensionality，ml_generate_embedding_result 輸出資料欄就會針對每個輸入值包含 256 個嵌入值。

  只有在 model 引數中指定的遠端模型使用下列任一模型做為端點時，才能使用這個引數：

  • text-embedding-004 以上版本
  • text-multilingual-embedding-002 以上版本

多模態嵌入

使用 multimodalembedding 模型的遠端模型，產生文字嵌入：

SELECT *
FROM ML.GENERATE_EMBEDDING(
  MODEL `PROJECT_ID.DATASET_ID.MODEL_NAME`,
  TABLE PROJECT_ID.DATASET_ID.TABLE_NAME,
  STRUCT(FLATTEN_JSON AS flatten_json_output，
  OUTPUT_DIMENSIONALITY AS output_dimensionality)
);

請依指示取代下列項目：

• PROJECT_ID：您的專案 ID。
• DATASET_ID：包含模型的資料集 ID。
• MODEL_NAME：在 multimodalembedding@001 模型上遠端模型的名稱。
• TABLE_NAME：內含要嵌入文字的表格名稱。這個資料表必須有一個名為 content 的資料欄，或者您可以使用別名來使用名稱不同的資料欄。
• FLATTEN_JSON：BOOL，指出是否要將嵌入項目解析為個別資料欄。預設值為 TRUE。
• OUTPUT_DIMENSIONALITY：INT64 值，可指定產生嵌入資料時要使用的維度數量。有效值為 128、256、512 和 1408。預設值為 1408。舉例來說，如果您指定 256 AS output_dimensionality，ml_generate_embedding_result 輸出資料欄就會針對每個輸入值包含 256 個嵌入值。

文字嵌入

使用遠端模型生成文字嵌入：

SELECT *
FROM ML.GENERATE_EMBEDDING(
  MODEL `PROJECT_ID.DATASET_ID.MODEL_NAME`,
  (CONTENT_QUERY),
  STRUCT(FLATTEN_JSON AS flatten_json_output,
    TASK_TYPE AS task_type,
    OUTPUT_DIMENSIONALITY AS output_dimensionality)
  );

請依指示取代下列項目：

• PROJECT_ID：您的專案 ID。
• DATASET_ID：包含模型的資料集 ID。
• MODEL_NAME：在嵌入模型中，遠端模型的名稱。
• CONTENT_QUERY：查詢結果包含名為 content 的 STRING 資料欄。
• FLATTEN_JSON：BOOL 值，指出是否要將嵌入項目剖析為個別資料欄。預設值為 TRUE。
• TASK_TYPE：STRING 文字常值，可指定預期的後端應用程式，協助模型產生品質更優異的嵌入資料。TASK_TYPE 接受下列值：
  • RETRIEVAL_QUERY：指定指定文字是搜尋或擷取設定中的查詢。
  • RETRIEVAL_DOCUMENT：指定指定文字是搜尋或擷取設定中的文件。

    使用這類工作類型時，建議在查詢陳述式中加入文件標題，以改善嵌入品質。文件標題必須位於名稱為 title 或別名為 title 的資料欄中，例如：

            SELECT *
            FROM
              ML.GENERATE_EMBEDDING(
                MODEL mydataset.embedding_model,
                (SELECT abstract as content, header as title, publication_number
                FROM mydataset.publications),
                STRUCT(TRUE AS flatten_json_output, 'RETRIEVAL_DOCUMENT' as task_type)
            );
            

    在輸入查詢中指定標題欄，系統就會在傳送至模型的請求主體中填入 title 欄位。

  • SEMANTIC_SIMILARITY：指定指定文字將用於語意文字相似度 (STS)。
  • CLASSIFICATION：指定嵌入值將用於分類。
  • CLUSTERING：指定要將嵌入值用於叢集。
  • QUESTION_ANSWERING：指定要將嵌入值用於回答問題。
  • FACT_VERIFICATION：指定要將嵌入值用於事實驗證。
  • CODE_RETRIEVAL_QUERY：指定要使用嵌入資料來擷取程式碼。
• OUTPUT_DIMENSIONALITY：INT64 值，可指定產生嵌入資料時要使用的維度數量。舉例來說，如果您指定 256 AS output_dimensionality，ml_generate_embedding_result 輸出資料欄就會針對每個輸入值包含 256 個嵌入值。

  只有在 model 引數中指定的遠端模型使用下列任一模型做為端點時，才能使用這個引數：

  • text-embedding-004 以上版本
  • text-multilingual-embedding-002 以上版本

多模態嵌入

使用 multimodalembedding 模型的遠端模型，產生文字嵌入：

SELECT *
FROM ML.GENERATE_EMBEDDING(
  MODEL `PROJECT_ID.DATASET_ID.MODEL_NAME`,
  (CONTENT_QUERY),
  STRUCT(FLATTEN_JSON AS flatten_json_output,
  OUTPUT_DIMENSIONALITY AS output_dimensionality)
);

請依指示取代下列項目：

• PROJECT_ID：您的專案 ID。
• DATASET_ID：包含模型的資料集 ID。
• MODEL_NAME：在 multimodalembedding@001 模型上遠端模型的名稱。
• CONTENT_QUERY：查詢結果包含名為 content 的 STRING 資料欄。
• FLATTEN_JSON：BOOL，指出是否要將嵌入項目剖析為個別資料欄。預設值為 TRUE。
• OUTPUT_DIMENSIONALITY：INT64 值，可指定產生嵌入資料時要使用的維度數量。有效值為 128、256、512 和 1408。預設值為 1408。舉例來說，如果您指定 256 AS output_dimensionality，ml_generate_embedding_result 輸出資料欄就會針對每個輸入值包含 256 個嵌入值。