从 Gemini on Google AI 迁移到 Vertex AI

如果您刚开始使用 Gemini,则使用快速入门是最快的入门方法。

但是,随着您的生成式 AI 解决方案的成熟,您可能需要一个用于端到端地构建和部署生成 AI 应用和解决方案的平台。Google Cloud 提供了一个全面的工具生态系统,使开发者能够充分利用生成式 AI 的强大力量(从应用开发的初始阶段到应用部署、应用托管以及大规模管理复杂的数据)。

Google Cloud 的 Vertex AI Platform 提供了一套 MLOps 工具,可简化 AI 模型的使用、部署和监控,以提高效率和可靠性。此外,与数据库、DevOps 工具、日志记录、监控和 IAM 的集成提供了一种全面的方法来管理整个生成式 AI 生命周期。

Google Cloud 产品的常见使用场景

以下是一些非常适合 Google Cloud 产品的常见用例。

Google AI 与 Vertex AI 的区别

下表总结了 Google AI 与 Vertex AI 之间的主要区别,可帮助您确定适合您的使用场景的选项:

特性 Google AI Gemini API Vertex AI Gemini API
Gemini 模型 Gemini 1.5 Flash、Gemini 1.5 Pro、Gemini 1.0 Pro、Gemini 1.0 Pro Vision(已废弃) Gemini 1.5 Flash、Gemini 1.5 Pro、Gemini 1.0 Pro、Gemini 1.0 Pro Vision、Gemini 1.0 Ultra、Gemini 1.0 Ultra Vision
注册 Google 账号 Google Cloud 账号(具有条款协议和结算)
Authentication API 密钥 Google Cloud 服务账号
界面平台 Google AI Studio Vertex AI Studio
API 和 SDK 服务器和移动/Web 客户端 SDK
  • 服务器:Python、Node.js、Go、Dart、ABAP
  • 移动/Web 客户端:Android (Kotlin/Java)、Swift、Web、Flutter
服务器和移动/Web 客户端 SDK
  • 服务器:Python、Node.js、Go、Java、ABAP
  • 移动/Web 客户端(通过 Vertex AI in Firebase):Android (Kotlin/Java)、Swift、Web、Flutter
API 和 SDK 免费使用 是(在适用的情况下 面向新用户的 300 美元 Google Cloud 赠金
配额(每分钟请求数) 因模型和定价方案而异(请参阅详细信息 因型号和区域而异(请参阅详细信息
企业支持服务 客户加密密钥
虚拟私有云
数据驻留
Access Transparency
用于应用托管的可伸缩基础架构
数据库和数据存储
MLOps Vertex AI 上的完整 MLOps(示例:模型评估、模型监控、Model Registry)

迁移到 Vertex AI

本部分介绍如何从 Google AI 上的 Gemini 迁移到 Vertex AI。

迁移注意事项

迁移时,应考虑以下事项:

  • 您可以使用现有的 Google Cloud 项目(即用于生成 API 密钥的项目),也可以创建新的 Google Cloud 项目

  • Google AI Studio 和 Vertex AI 支持的区域可能会有所不同。请参阅 Google Cloud 上的生成式 AI 支持的区域列表。

  • 您在 Google AI Studio 中创建的任何模型都需要在 Vertex AI 中重新训练。

开始使用 Vertex AI Studio

根据您是已经拥有 Google Cloud 账号还是刚开始接触 Google Cloud,迁移到 Vertex AI 的过程也会有所不同。

如需了解如何迁移到 Vertex AI,请根据您的 Google Cloud 账号状态点击以下标签页之一:

已经在使用 Google Cloud

  1. 登录 Google AI Studio
  2. 在左侧导航窗格的底部,点击使用 Vertex AI on Google Cloud 开始构建之旅

    随即会打开免费试用 Vertex AI 和 Google Cloud 页面。

  3. 点击同意并继续

    随即会显示 Vertex AI Studio 使用入门对话框。

  4. 如需启用运行 Vertex AI 所需的 API,请点击同意并继续

    随即会显示 Vertex AI 控制台。如需了解如何从 Google AI Studio 迁移数据,请参阅迁移提示

Google Cloud 新手

  1. 登录 Google AI Studio
  2. 在左侧导航窗格的底部,点击使用 Vertex AI on Google Cloud 开始构建之旅

    随即会打开创建账号以开始使用 Google Cloud 页面。

  3. 点击同意并继续

    随即会显示我们需要确认您的身份页面。

  4. 点击开始免费试用

    随即会显示 Vertex AI Studio 使用入门对话框。

  5. 如需启用运行 Vertex AI 所需的 API,请点击同意并继续

  6. 可选:如需了解如何从 Google AI Studio 迁移数据,请参阅迁移提示页面中提供的提示迁移步骤。

Python:迁移到 Vertex AI Gemini API

以下部分显示了代码段,可帮助您迁移 Python 代码以使用 Vertex AI Gemini API。

Vertex AI Python SDK 设置

在 Vertex AI 上,您不需要 API 密钥。不过,Gemini on Vertex AI 会使用 IAM 访问权限进行管理,该访问权限控制用户、群组或服务账号通过 Vertex AI SDK 调用 Gemini API 的权限。

虽然有多种身份验证方法,但在开发环境中,最简单的身份验证方法是安装 Google Cloud CLI,然后使用用户凭据登录 CLI

如需对 Vertex AI 进行推理调用,您还必须确保用户或服务账号具有 Vertex AI User 角色

要安装客户端的代码示例

Google AI Vertex AI
# To install the Python SDK, use this CLI command:
# pip install google-generativeai

import google.generativeai as genai
from google.generativeai import GenerativeModel

API_KEY="API_KEY"
genai.configure(api_key=API_KEY)
        
# To install the Python SDK, use this CLI command:
# pip install google-cloud-aiplatform

import vertexai
from vertexai.generative_models import GenerativeModel, Image

PROJECT_ID = "PROJECT_ID"
REGION = "REGION"  # e.g. us-central1
vertexai.init(project=PROJECT_ID, location=REGION)
        

用于从文本提示生成文本的代码示例

Google AI Vertex AI
model = GenerativeModel("gemini-1.5-flash")

response = model.generate_content("The opposite of hot is")
print(response.text) #  The opposite of hot is cold.
        
model = GenerativeModel("gemini-1.5-flash")

response = model.generate_content("The opposite of hot is")
print(response.text) #  The opposite of hot is cold.
        

用于从文本和图片生成文本的代码示例

Google AI Vertex AI
import PIL.Image

multimodal_model = GenerativeModel("gemini-1.5-flash")

image = PIL.Image.open("image.jpg")

response = multimodal_model.generate_content(["What is this picture?", image])
print(response.text) # A cat is shown in this picture.
        
multimodal_model = GenerativeModel("gemini-1.5-flash")

image = Image.load_from_file("image.jpg")

response = multimodal_model.generate_content(["What is shown in this image?", image])

print(response.text) # A cat is shown in this picture.
        

生成多轮聊天的代码示例

Google AI Vertex AI
model = GenerativeModel("gemini-1.5-flash")

chat = model.start_chat()

print(chat.send_message("How are you?").text)
print(chat.send_message("What can you do?").text)
        
model = GenerativeModel("gemini-1.5-flash")

chat = model.start_chat()

print(chat.send_message("How are you?").text)
print(chat.send_message("What can you do?").text)
        

将提示迁移到 Vertex AI Studio

您的 Google AI Studio 提示数据保存在 Google 云端硬盘文件夹中。本部分介绍了如何将提示迁移到 Vertex AI Studio。

  1. 打开 Google 云端硬盘
  2. 转到存储提示的 AI_Studio 文件夹。Google 云端硬盘中提示的位置
  3. 将提示从 Google 云端硬盘下载到一个本地目录中。

  4. 在 Google Cloud 控制台中打开 Vertex AI Studio

  5. Vertex AI 菜单中,点击提示管理

  6. 点击导入提示

  7. 提示文件字段中,点击浏览,然后从本地目录中选择提示。

    如需批量上传提示,您必须手动将这些提示组合到单个 JSON 文件中。

  8. 点击上传

    提示会上传到我的提示标签页。

将训练数据上传到 Vertex AI Studio

如需将训练数据迁移到 Vertex AI,您需要将数据上传到 Cloud Storage 存储桶。如需了解详情,请参阅调整简介

删除未使用的 API 密钥

如果您不再需要使用 Google AI Gemini API 密钥,请遵循安全性最佳实践并将其删除。

如需删除 API 密钥,请执行以下操作:

  1. 打开 Google Cloud API 凭据页面。

  2. 找到您要删除的 API 密钥,然后点击操作图标。

  3. 选择删除 API 密钥

  4. 删除凭据模态框中,选择删除

    删除 API 密钥的操作需要几分钟时间才能生效。生效后,任何使用已删除的 API 密钥的流量都将遭到拒绝。

后续步骤