Vertex AI와 통합

이 페이지에서는 PostgreSQL용 AlloyDB와 Vertex AI 간의 통합을 설정하여 클라우드에 저장된 대규모 언어 모델 (LLM)에 대한 쿼리를 데이터에 적용하는 방법을 자세히 설명합니다.

이 안내는 AlloyDB Omni이 아닌 AlloyDB 사용에 관한 안내입니다. 대신 Vertex AI를 사용하여 AlloyDB Omni의 로컬 설치를 통합하려면 AlloyDB AI로 AlloyDB Omni 설치를 참고하세요.

AlloyDB에서 ML 모델을 사용하는 방법에 관한 자세한 내용은 AlloyDB AI를 사용하여 생성형 AI 애플리케이션 빌드를 참고하세요.

Vertex AI에 대한 자세한 내용은 Vertex AI 소개를 참고하세요.

시작하기 전에

1. Sign in to your Google Cloud account. If you're new to Google Cloud, create an account to evaluate how our products perform in real-world scenarios. New customers also get $300 in free credits to run, test, and deploy workloads.

2. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

   Go to project selector

3. Make sure that billing is enabled for your Google Cloud project.

4. Enable the Vertex AI API.

   Enable the API

5. Install the Google Cloud CLI.

6. To initialize the gcloud CLI, run the following command:

   gcloud init

7. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

   Go to project selector

8. Make sure that billing is enabled for your Google Cloud project.

9. Enable the Vertex AI API.

   Enable the API

10. Install the Google Cloud CLI.

11. To initialize the gcloud CLI, run the following command:

    gcloud init

AlloyDB 서비스 에이전트에 Vertex AI 사용자 권한 부여

Vertex AI와 데이터베이스 통합을 사용 설정하려면 다음 단계에 따라 AlloyDB 서비스 에이전트에 Vertex AI에 액세스할 수 있는 Identity and Access Management (IAM) 권한을 부여하세요.

AlloyDB 데이터베이스 클러스터가 있는 프로젝트의 AlloyDB 서비스 에이전트에 Vertex AI 권한을 추가합니다.

        gcloud projects add-iam-policy-binding <var>PROJECT_ID</var> \
        --member="serviceAccount:service-<var>PROJECT_NUMBER</var>@gcp-sa-alloydb.iam.gserviceaccount.com" \
        --role="roles/aiplatform.user"

설치된 확장 프로그램 확인

예측을 실행할 데이터가 포함된 데이터베이스에 google_ml_integration가 설치되어 있는지 확인합니다.

1. psql 클라이언트를 인스턴스에 연결에 설명된 대로 psql 클라이언트를 클러스터의 기본 인스턴스에 연결합니다.

2. psql 명령 프롬프트에서 데이터베이스에 연결합니다.

   \c DB_NAME

   DB_NAME을 확장 프로그램을 설치할 데이터베이스의 이름으로 바꿉니다.

3. google_ml_integration 확장 프로그램 버전 1.4.2 이상이 설치되어 있는지 확인합니다.

   SELECT extversion FROM pg_extension WHERE extname = 'google_ml_integration';

4. 선택사항입니다. 최신 버전의 확장 프로그램을 수동으로 설치합니다.

   CREATE EXTENSION google_ml_integration VERSION '1.4.2';

5. 선택사항입니다. 1.4.2 이전 버전의 확장 프로그램을 사용하는 경우 확장 프로그램을 최신 버전으로 업데이트합니다.

   ALTER EXTENSION google_ml_integration UPDATE TO '1.4.2'

다음 단계

• 임베딩 작업

• 예측 호출

• Vertex AI 할당량 및 한도

• 원격 모델 엔드포인트 호출