在 AlloyDB Omni 中安装 AlloyDB AI

本页面介绍了如何安装 AlloyDB Omni 并集成 AlloyDB AI。

AlloyDB AI 是 AlloyDB Omni 中包含的一套功能，可让您构建企业生成式 AI 应用。如需详细了解 AlloyDB 的 AI/机器学习功能，请参阅构建生成式 AI 应用。

借助具有 AlloyDB AI 的 AlloyDB Omni，您可以查询远程机器学习模型，以使用从机器学习模型生成的在线预测和文本嵌入。具有 AlloyDB AI 的 AlloyDB Omni 还可以处理来自其他内容（例如图片）的向量嵌入，例如，如果您使用 google_ml.predict_row 接口并自行在查询中进行转换。

根据您要在其中安装具有 AlloyDB AI 的 AlloyDB Omni 的位置，选择以下选项之一：

配置 AlloyDB Omni 实例以查询远程模型

您可以在数据库集群清单中启用 googleMLExtension，以使用模型端点管理查询远程模型。

（可选）如果您想查询 Vertex AI 模型，则必须使用 Vertex AI 配置 AlloyDB 服务账号，使用密钥创建 Kubernetes Secret，并在数据库集群清单中设置 Kubernetes Secret。

向 AlloyDB 服务账号添加 Vertex AI 权限

如需将 AlloyDB Omni 配置为查询远程 Vertex AI 模型，请按照以下步骤操作：

1. 使用Google Cloud创建服务账号。

2. 创建服务账号密钥，并以 JSON 格式将其保存到 private-key.json 文件中，然后下载该文件。

3. 将密钥存储在文件系统中的永久位置中。在 AlloyDB Omni 服务器的生命周期内，它都驻留在此位置。

   记下其在文件系统中的位置；您在后续步骤中需要用到它。

4. 向相应的项目和服务账号添加 Vertex AI Identity and Access Management (IAM) 权限。

   gcloud projects add-iam-policy-binding PROJECT_ID \
   --member="serviceAccount:SERVICE_ACCOUNT_ID" \
   --role="roles/aiplatform.user"
   

   替换以下内容：

   • PROJECT_ID：您的 Google Cloud 项目的 ID。

   • SERVICE_ACCOUNT_ID：您在上一步中创建的服务账号的 ID。其中包括完整的 @PROJECT_ID.iam.gserviceaccount.com 后缀，例如 my-service@my-project.iam.gserviceaccount.com。

使用服务账号密钥创建 Kubernetes Secret

如需根据上述步骤中下载的服务账号密钥创建 Kubernetes Secret，请运行以下命令：

kubectl create secret generic SECRET_NAME \
--from-file=PATH_TO_SERVICE_ACCOUNT_KEY/private-key.json \
-n NAMESPACE

替换以下内容：

• SECRET_NAME：创建 DBCluster 清单以让 AlloyDB Omni 可以访问 AlloyDB AI 功能时使用的 Secret 的名称。例如 vertex-ai-key-alloydb。

• PATH_TO_SERVICE_ACCOUNT_KEY：您下载 private-key.json 服务账号密钥的位置的路径。

• NAMESPACE：数据库集群的命名空间。

安装 AlloyDB Omni 操作器

按照安装 AlloyDB Omni 操作器中列出的步骤安装 AlloyDB Omni 操作器。

使用 AlloyDB AI 创建数据库集群

1. 使用 AlloyDB AI 创建数据库集群。

   在 googleMLExtension 字段下将 enabled 设置为 true 后，您便可以查询远程模型。如果您想查询 Vertex AI 模型，请将 vertexAIKeyRef 设置为 Kubernetes Secret。

   apiVersion: v1
   kind: Secret
   metadata:
     name: db-pw-DB_CLUSTER_NAME
   type: Opaque
   data:
     DB_CLUSTER_NAME: "ENCODED_PASSWORD"
   ---
   apiVersion: alloydbomni.dbadmin.goog/v1
   kind: DBCluster
   metadata:
     name: DB_CLUSTER_NAME
   spec:
   databaseVersion: "15.7.0"
   primarySpec:
       adminUser:
         passwordRef:
           name: db-pw-DB_CLUSTER_NAME
       features:
         googleMLExtension:
           enabled: true
           config:
             vertexAIKeyRef: VERTEX_AI_SECRET_NAME
             vertexAIRegion: VERTEX_AI_REGION
       resources:
         cpu: CPU_COUNT
         memory: MEMORY_SIZE
         disks:
         - name: DataDisk
           size: DISK_SIZE
           storageClass: standard
   

   替换以下内容：

   • DB_CLUSTER_NAME：此数据库集群的名称，例如 my-db-cluster。

   • VERTEX_AI_SECRET_NAME（可选）：您在上述步骤中创建的 Vertex AI Secret。如果您想调用 Vertex AI 模型，则必须设置此选项。

   • VERTEX_AI_REGION（可选）：您要向其发送请求的 Vertex AI 区域级端点，例如 us-west4。默认值为 us-central1。

   • ENCODED_PASSWORD：默认 postgres 用户角色的数据库登录密码（以 base64 字符串编码），例如 Q2hhbmdlTWUxMjM= 表示 ChangeMe123。

   • CPU_COUNT：此数据库集群中的每个数据库实例可用的 CPU 数量。

   • MEMORY_SIZE：此数据库集群的每个数据库实例的内存量。建议将此值设置为每个 CPU 8 千兆字节。例如，如果您之前在此清单中将 cpu 设置为 2，则建议将 memory 设置为 16Gi。

   • DISK_SIZE：每个数据库实例的磁盘大小，例如 10Gi。

2. 应用清单。

   kubectl apply -f DB_CLUSTER_YAML

   替换以下内容：

   • DB_CLUSTER_YAML：此数据库集群清单文件的名称，例如 alloydb-omni-db-cluster.yaml。

使用预安装的 psql 进行连接

您可以使用已在运行数据库的 Pod 上安装的 psql 客户端进行测试连接。

为此，请运行以下命令：

export DBPOD=`kubectl get pod --selector=alloydbomni.internal.dbadmin.goog/dbcluster=DB_CLUSTER_NAME,alloydbomni.internal.dbadmin.goog/task-type=database -o jsonpath='{.items[0].metadata.name}'`
kubectl exec -ti $DBPOD -c database -- psql -h localhost -U postgres

将 DB_CLUSTER_NAME 替换为您的数据库集群的名称。这是您在创建数据库集群时声明的同一个名称。

输入该命令后，数据库服务器会提示您输入密码。输入您在创建数据库集群时，提供其 base64 编码版本作为 Kubernetes Secret 的密码。例如，如果您使用 Q2hhbmdlTWUxMjM= Secret 创建了数据库集群，则此处使用的登录密码为 ChangeMe123。

验证具有 AlloyDB AI 的 AlloyDB Omni 安装

如需验证安装是否成功并使用模型预测，请输入以下内容：

CREATE EXTENSION IF NOT EXISTS google_ml_integration CASCADE;

SELECT array_dims(embedding('text-embedding-005', 'AlloyDB AI')::real[]);

输出类似于以下内容：

array_dims
------------
[1:768]
(1 row) 

在上一个查询中，embedding() 调用会为输入文本 AlloyDB AI 生成嵌入。array_dims 会返回由 embedding() 返回的数组的维度。由于 text-embedding-005 模型返回具有 768 个维度的输出，因此输出为 [768]。

后续步骤

• 运行并连接到 AlloyDB Omni
• 管理 AlloyDB Omni
• 使用 AlloyDB AI 构建生成式 AI 应用
• 注册和调用远程 AI 模型