Vertex AI Agent Engine 簡介

Vertex AI Agent Engine (舊稱 LangChain on Vertex AI 或 Vertex AI Reasoning Engine) 是一組服務,可讓開發人員在正式環境中部署、管理及調度 AI 代理。Agent Engine 會處理基礎架構,以便在實際工作環境中調度代理程式,讓您可以專注於建立應用程式。Vertex AI Agent Engine 提供下列服務,可單獨使用或搭配使用:

  • 代管執行階段 (GA):

    • 部署代理程式,並透過代管執行階段和端對端管理功能擴充代理程式。
    • 使用安全性功能,包括 VPC-SC 法規遵循和驗證與 IAM 設定。
    • 存取模型和工具,例如函式呼叫
    • 部署使用不同 Python 架構建構的代理程式:
  • 內容管理

    • 工作階段 (預先發布版):Agent Engine 工作階段可讓您儲存使用者與服務專員之間的個別互動,提供對話脈絡的明確來源。

    • 樣本儲存庫 (預先發布版):您可以使用樣本儲存庫儲存及動態擷取少量樣本。

  • 品質和評估 (預先發布版):

    • 使用整合的 Gen AI Evaluation Service 評估服務品質。
    • 使用Example Store提升服務專員的表現。
    • 透過 Gemini 模型訓練執行作業,提升服務機器人的效能。
  • 觀測能力 (GA):

Vertex AI Agent Engine 概念總覽

Vertex AI Agent Engine 是 Vertex AI Agent Builder 的一部分,後者是一套可用來探索、建構及部署 AI 代理的功能。

在 Vertex AI Agent Engine 上建立及部署

注意:如要透過 IDE 簡化 Vertex AI Agent Engine 的開發和部署作業,不妨考慮使用agent-starter-pack。這項服務提供現成範本和內建的實驗 UI,並簡化部署、作業、評估、自訂和可觀察性。

在 Vertex AI Agent Engine 上建構代理的程序如下:

步驟 說明
1. 設定環境 設定 Google 專案,並安裝最新版的 Vertex AI SDK for Python。
2. 開發代理 開發可在 Vertex AI Agent Engine 上部署的代理。
3. 部署代理程式 在 Vertex AI Agent Engine 管理的執行階段上部署代理。
4. 使用這個代理程式 傳送 API 要求來查詢服務機器人。
5. 管理已部署的代理程式 管理及刪除已部署至 Vertex AI Agent Engine 的代理。

步驟如下圖所示:

建立及部署代理程式 

支援的架構

下表說明 Vertex AI Agent Engine 為各種代理程式架構提供的支援等級:

支援級別 代理程式架構
自訂範本:您可以調整自訂範本,以便從架構部署至 Vertex AI Agent Engine。 CrewAI自訂架構
Vertex AI SDK 整合:Vertex AI Agent Engine 在 Vertex AI SDK 和說明文件中提供每個架構的受管理範本。 AG2LlamaIndex
完整整合:整合功能可在框架、Vertex AI Agent Engine 和更廣泛的 Google Cloud 生態系統中運作。 Agent Development Kit (ADK)LangChainLangGraph

使用 Agent Starter Pack 在正式環境中部署

Agent Starter Pack 是一系列可用於正式環境的生成式 AI 代理程式範本,專為 Vertex AI Agent Engine 建構。Agent Starter Pack 提供以下內容:

  • 預先建構的代理程式範本:ReAct、RAG、多代理程式和其他範本。
  • 互動式遊樂場:測試並與您的對話方塊互動。
  • 自動化基礎架構:使用 Terraform 簡化資源管理作業。
  • 持續整合/持續推送軟體更新管道:運用 Cloud Build 的自動部署工作流程。
  • 觀測功能:內建 Cloud Trace 和 Cloud Logging 支援功能。

如要開始使用,請參閱快速入門

用途

如要瞭解 Vertex AI Agent Engine 的端對端範例,請參閱下列資源:

用途 說明 連結
連線至公開 API 以建構代理程式 轉換貨幣。

建立可連線至貨幣兌換應用程式的函式,讓模型能夠針對查詢提供正確答案,例如「今天歐元兌美元匯率為何?」
Vertex AI SDK for Python 筆記本 - 使用 Vertex AI Agent Engine 建構及部署代理的簡介
設計社區太陽能專案。

找出潛在地點、查詢相關政府機關和供應商,並查看區域和建築物的衛星圖像和太陽能發電潛力,找出安裝太陽能板的最佳地點。
Vertex AI SDK for Python 筆記本 - 使用 Vertex AI Agent Engine 建構及部署 Google 地圖 API 代理程式
透過連線至資料庫建構代理程式 與 AlloyDB 和 PostgreSQL 適用的 Cloud SQL 整合。 網誌文章 - Vertex AI for AlloyDB 和 Cloud SQL for PostgreSQL 上的 LangChain 隆重登場

Vertex AI SDK for Python 筆記本 - 使用 Cloud SQL for PostgreSQL 部署 RAG 應用程式至 Vertex AI Agent Engine

Vertex AI SDK for Python 筆記本 - 使用 AlloyDB for PostgreSQL 部署 RAG 應用程式至 Vertex AI Agent Engine
使用可存取資料庫資料的工具建立服務機器人。 Vertex AI SDK for Python 筆記本 - 使用 Vertex AI Agent Engine 和 MCP Toolbox for Databases 部署代理
使用自然語言查詢及瞭解結構化資料儲存庫。 Vertex AI SDK for Python 筆記本 - 使用 Vertex AI Agent Engine 和 Vertex AI Search 的 RAG 建構對話式搜尋代理
使用自然語言查詢及瞭解圖形資料庫 網誌文章 - 使用 Vertex AI Agent Engine 搭配 LangChain 和 Neo4j 建構 GenAI GraphRAG 和 AI 代理
使用自然語言查詢及瞭解向量儲存庫 網誌文章 - 使用 MongoDB Atlas 和 Vertex AI Agent Engine 簡化生成式 AI RAG
使用 Agent Development Kit (預先發布版) 建構代理程式 使用 Agent Development Kit 建構及部署服務專員。 代理程式開發套件 - 部署至 Vertex AI Agent Engine
使用 OSS 架構建構服務專員 使用 OneTwo 開放原始碼架構建構及部署虛擬服務專員。 網誌文章 - OneTwo 和 Vertex AI Agent Engine:探索在 Google Cloud上開發進階 AI 代理程式
使用 LangGraph 開放原始碼架構建構及部署虛擬服務專員。 Vertex AI SDK for Python 筆記本 - 使用 Vertex AI Agent Engine 建構及部署 LangGraph 應用程式
偵錯及最佳化代理 使用 OpenTelemetry 和 Cloud Trace 建構及追蹤代理程式。 Vertex AI SDK for Python 筆記本 - 偵錯及最佳化代理程式:Vertex AI Agent Engine 追蹤指南

企業安全性

Vertex AI Agent Engine 支援 VPC Service Controls,可強化資料安全性並降低資料竊取風險。設定 VPC Service Controls 後,部署的代理程式將保留 Google API 和服務的安全存取權,例如 BigQuery API、Cloud SQL 管理員 API 和 Vertex AI API,確保在您定義的範圍內順利運作。最重要的是,VPC Service Controls 可有效阻擋所有公用網際網路存取行為,將資料移轉限制在您授權的網路範圍內,大幅提升企業的安全性狀態。

支援的地區

Vertex AI Agent Engine 支援下列地區:

區域 位置 支援的版本
us-central1 愛荷華州 v1 支援 Google Analytics 功能。預先發布版功能支援 v1beta1
us-east4 北維吉尼亞州 v1 支援 Google Analytics 功能。預先發布版功能支援 v1beta1
us-west1 奧勒岡州 v1 支援 Google Analytics 功能。預先發布版功能支援 v1beta1
europe-west1 比利時 v1 支援 Google Analytics 功能。預先發布版功能支援 v1beta1
europe-west2 倫敦 v1 支援 Google Analytics 功能。預先發布版功能支援 v1beta1
europe-west3 法蘭克福 v1 支援 Google Analytics 功能。預先發布版功能支援 v1beta1
europe-west4 荷蘭 v1 支援 Google Analytics 功能。預先發布版功能支援 v1beta1
europe-southwest1 馬德里 v1 支援 Google Analytics 功能。v1beta1 支援預先發布版功能。
asia-east1 台灣 v1 支援 Google Analytics 功能。預先發布版功能支援 v1beta1
asia-northeast1 東京 v1 支援 Google Analytics 功能。預先發布版功能支援 v1beta1
asia-south1 孟買 v1 支援 Google Analytics 功能。預先發布版功能支援 v1beta1
asia-southeast1 新加坡 v1 支援 Google Analytics 功能。預先發布版功能支援 v1beta1
australia-southeast2 墨爾本 v1 支援 Google Analytics 功能。預先發布版功能支援 v1beta1

配額

每個地區的特定專案適用下列 Vertex AI Agent Engine 配額和限制。
配額
每分鐘建立/刪除/更新 Vertex AI Agent Engine 10
每分鐘的 Vertex AI Agent Engine 查詢/串流查詢 60
Vertex AI Agent Engine 資源的最大數量 100

定價

價格取決於部署至 Vertex AI Agent Engine 管理式執行階段的代理程式所使用的運算 (vCPU 小時) 和記憶體 (GiB 小時) 資源。

產品 SKU ID 價格
ReasoningEngine vCPU 8A55-0B95-B7DC $0.0994 美元/vCPU 時數
ReasoningEngine 記憶體 0B45-6103-6EC1 $0.0105 美元/GiB-Hr

詳情請參閱「定價」。

後續步驟