在 GKE 上部署 Weaviate 向量数据库

设置您的环境

如需使用 Cloud Shell 设置您的环境，请按照以下步骤操作：

1. 为您的项目、区域和 Kubernetes 集群资源前缀设置环境变量：

   export PROJECT_ID=PROJECT_ID
   export KUBERNETES_CLUSTER_PREFIX=weaviate
   export REGION=us-central1
   

   将 PROJECT_ID 替换为您的 Google Cloud 项目 ID。

   本教程使用 us-central1 区域来创建部署资源。

2. 检查 Helm 的版本：

   helm version
   

   更新版本（如果低于 3.13）：

   curl https://raw.githubusercontent.com/helm/helm/main/scripts/get-helm-3 | bash
   

3. 从 GitHub 克隆示例代码库：

   git clone https://github.com/GoogleCloudPlatform/kubernetes-engine-samples
   

4. 导航到 weaviate 目录：

   cd kubernetes-engine-samples/databases/weaviate
   

创建集群基础设施

在本部分中，您将运行 Terraform 脚本来创建高可用性专用区域级 GKE 集群，以部署 Weaviate 数据库。

您可以选择使用 Standard 集群或 Autopilot 集群部署 Weaviate。每种类型都有自己的优势和不同的价格模式。

export GOOGLE_OAUTH_ACCESS_TOKEN=$(gcloud auth print-access-token)
terraform -chdir=terraform/gke-autopilot init
terraform -chdir=terraform/gke-autopilot apply \
-var project_id=${PROJECT_ID} \
-var region=${REGION} \
-var cluster_prefix=${KUBERNETES_CLUSTER_PREFIX}

...
Apply complete! Resources: 9 added, 0 changed, 0 destroyed.

Outputs:

kubectl_connection_command = "gcloud container clusters get-credentials weaviate-cluster --region us-central1"

export GOOGLE_OAUTH_ACCESS_TOKEN=$(gcloud auth print-access-token)
terraform -chdir=terraform/gke-standard init
terraform -chdir=terraform/gke-standard apply \
-var project_id=${PROJECT_ID} \
-var region=${REGION} \
-var cluster_prefix=${KUBERNETES_CLUSTER_PREFIX}

...
Apply complete! Resources: 10 added, 0 changed, 0 destroyed.

Outputs:

kubectl_connection_command = "gcloud container clusters get-credentials weaviate-cluster --region us-central1"

连接到集群

配置 kubectl 以提取凭据并与新的 GKE 集群通信：

gcloud container clusters get-credentials \
    ${KUBERNETES_CLUSTER_PREFIX}-cluster --region ${REGION}

将 Weaviate 数据库部署到您的集群

如需使用 Helm 图表将 Weaviate 数据库部署到 GKE 集群，请按以下步骤操作：

1. 先添加 Weaviate 数据库 Helm 图表代码库，然后才能将其部署到您的 GKE 集群：

   helm repo add weaviate https://weaviate.github.io/weaviate-helm
   

2. 为数据库创建命名空间 weaviate：

   kubectl create ns weaviate
   

3. 创建 Secret 以存储 API 密钥：

   kubectl create secret generic apikeys --from-literal=AUTHENTICATION_APIKEY_ALLOWED_KEYS=$(openssl rand -base64 32) -n weaviate
   

4. 部署内部负载均衡器，以便从虚拟网络中访问 Weaviate：

   kubectl apply -n weaviate -f manifests/05-ilb/ilb.yaml
   

   ilb.yaml 清单描述了负载均衡器服务：

   apiVersion: v1
   kind: Service
   metadata:
     annotations:
       #cloud.google.com/neg: '{"ingress": true}'
       networking.gke.io/load-balancer-type: "Internal"
     labels:
       app.kubernetes.io/name: weaviate
     name: weaviate-ilb
   spec:
     ports:
     - name: http
       port: 8080
       protocol: TCP
       targetPort: 8080
     - name: grpc
       port: 50051
       protocol: TCP
       targetPort: 50051
     selector:
       app: weaviate
     type: LoadBalancer

5. 应用清单以部署 Weaviate 集群：

   helm upgrade --install "weaviate" weaviate/weaviate \
   --namespace "weaviate" \
   --values ./manifests/01-basic-cluster/weaviate_cluster.yaml
   

   weaviate_cluster.yaml 清单描述了 Deployment。部署是 Kubernetes API，可让您在集群中的节点之间运行 Pod 的多个副本：

   initContainers:
     sysctlInitContainer:
       enabled: false
     extraInitContainers: {}
   resources: 
      requests:
        cpu: '1'
        memory: '4Gi'
      limits:
        cpu: '2'
        memory: '4Gi'
   replicas: 3
   storage:
     size: 10Gi
     storageClassName: "premium-rwo"
   service:
     name: weaviate
     ports:
       - name: http
         protocol: TCP
         port: 80
     type: ClusterIP
   grpcService:
     enabled: true
     name: weaviate-grpc
     ports:
       - name: grpc
         protocol: TCP
         port: 50051
     type: ClusterIP
   authentication:
     anonymous_access:
       enabled: false
   authorization:
     admin_list:
       enabled: true
       users:
         - admin@example.com
   modules:
     text2vec-palm:
       enabled: true
   env:
     AUTHENTICATION_APIKEY_ENABLED: 'true'
     AUTHENTICATION_APIKEY_USERS: 'admin@example.com'
     PROMETHEUS_MONITORING_ENABLED: true
   envSecrets:
     AUTHENTICATION_APIKEY_ALLOWED_KEYS: apikeys
   tolerations:
     - key: "app.stateful/component"
       operator: "Equal"
       value: "weaviate"
       effect: NoSchedule

   等待几分钟，让 Weaviate 集群完全启动。

6. 检查 Deployment 状态：

   kubectl get weaviate -n weaviate --watch
   

   如果 weaviate 数据库成功部署，则输出类似于以下内容：

   NAME: weaviate
   LAST DEPLOYED: Tue Jun 18 13:15:53 2024
   NAMESPACE: weaviate
   STATUS: deployed
   REVISION: 1
   TEST SUITE: None
   

7. 等待 Kubernetes 启动资源：

   kubectl wait pods -l app.kubernetes.io/name=weaviate --for condition=Ready --timeout=300s -n weaviate
   

使用 Vertex AI Colab Enterprise 笔记本运行查询

本部分介绍了如何使用 Colab Enterprise 连接到 Weaviate 数据库。您可以使用专用运行时模板部署到 weaviate-vpc，以便笔记本可以与 GKE 集群中的资源进行通信。

创建运行时模板

如需创建运行时模板，请执行以下操作：

1. 在 Google Cloud 控制台中，前往 Colab Enterprise 运行时模板页面，并确保您的项目已被选中：

   进入运行时模板

2. 点击 add_box 新建模板。此时会显示创建新的运行时模板页面。

3. 在运行时基本信息部分中：

   • 在显示名称字段中，输入 weaviate-connect。
   • 在区域下拉列表中，选择 us-central1。该区域与您的 GKE 集群所在的区域相同。

4. 在配置计算部分中：

   • 在机器类型下拉列表中，选择 e2-standard-2。
   • 在磁盘大小字段中，输入 30。

5. 在网络和安全部分中：

   • 在网络下拉列表中，选择 GKE 集群所在的网络。
   • 在子网下拉列表中，选择相应的子网。
   • 清除启用公共互联网访问权限复选框。

6. 点击创建以完成运行时模板的创建。您的运行时模板会显示在运行时模板标签页上的列表中。

创建运行时

如需创建运行时，请执行以下操作：

1. 在运行时模板列表中，对于您刚刚创建的模板，点击操作列中的 more_vert，然后点击创建运行时。此时会显示创建 Vertex AI 运行时窗格。

2. 点击创建，根据模板创建运行时。

3. 在打开的运行时标签页中，等待状态转换为健康。

导入笔记本

如需导入笔记本，请执行以下操作：

1. 前往笔记本标签页，然后点击从网址导入笔记本。

2. 在导入来源中，选择网址。

3. 在笔记本网址下方，粘贴以下链接：raw.githubusercontent.com/GoogleCloudPlatform/kubernetes-engine-samples/main/databases/weaviate/manifests/02-notebook/vector-database.ipynb

4. 点击导入。

连接到运行时并运行查询

如需连接到运行时并运行查询，请执行以下操作：

1. 在笔记本中，点击连接按钮旁边的 arrow_drop_down 其他连接选项。此时会显示连接到 Vertex AI Runtime 窗格。

2. 选择连接到运行时，然后选择连接到现有运行时。

3. 选择您启动的运行时，然后点击连接。

4. 点击每个代码单元左侧的 运行单元按钮，以运行笔记本单元。

该笔记本包含代码单元和用于描述每个代码块的文本。运行代码单元会执行其命令并显示输出。您可以按顺序运行单元，也可以根据需要运行单个单元。

如需详细了解 Vertex AI Colab Enterprise，请参阅 Colab Enterprise 文档。

查看集群的 Prometheus 指标

GKE 集群配置了 Google Cloud Managed Service for Prometheus，可启用 Prometheus 格式的指标收集。该服务提供了用于监控和提醒的全托管式解决方案，支持收集、存储和分析来自集群及其应用的指标。

下图展示了 Prometheus 如何收集集群的指标：

图中的 GKE 专用集群包含以下组件：

• 公开路径 /metrics 和端口 2112 上指标的 Weaviate Pod。
• 基于 Prometheus 的收集器，用于处理来自 Weaviate Pod 的指标。
• 将指标发送到 Cloud Monitoring 的 PodMonitoring 资源。

如需导出和查看指标，请按照以下步骤操作：

1. 创建 PodMonitoring 资源，以按 labelSelector 爬取指标：

   kubectl apply -n weaviate -f manifests/03-prometheus-metrics/pod-monitoring.yaml
   

   pod-monitoring.yaml 清单描述了 PodMonitoring 资源：

   apiVersion: monitoring.googleapis.com/v1
   kind: PodMonitoring
   metadata:
     name: weaviate
   spec:
     selector:
       matchLabels:
         app: weaviate
     endpoints:
     - port: 2112
       interval: 30s
       path: /metrics

2. 如需使用 dashboard.json 中定义的配置导入自定义 Cloud Monitoring 信息中心，请执行以下操作：

   gcloud --project "${PROJECT_ID}" monitoring dashboards create --config-from-file monitoring/dashboard.json
   

3. 命令成功运行后，前往 Cloud Monitoring 信息中心：

   前往信息中心概览

4. 从信息中心列表中，打开 Weaviate Overview 信息中心。收集和显示指标可能需要一些时间。信息中心会显示分片数、向量数和操作延迟时间