Vertex AI Agent Engine (舊稱 LangChain on Vertex AI 或 Vertex AI Reasoning Engine) 是一組服務,可讓開發人員在正式環境中部署、管理及調度 AI 代理。Agent Engine 會處理基礎架構,以便在實際工作環境中調度代理程式,讓您可以專注於建立應用程式。Vertex AI Agent Engine 提供下列服務,可單獨使用或搭配使用:
代管執行階段 (GA):
- 部署代理程式,並透過代管執行階段和端對端管理功能擴充代理程式。
- 使用安全性功能,包括 VPC-SC 法規遵循和驗證與 IAM 設定。
- 存取模型和工具,例如函式呼叫。
- 部署使用不同 Python 架構建構的代理程式:
內容管理:
品質和評估 (預先發布版):
- 使用整合的 Gen AI Evaluation Service 評估服務品質。
- 使用Example Store提升服務專員的表現。
- 透過 Gemini 模型訓練執行作業,提升服務機器人的效能。
觀測能力 (GA):
- 透過 Google Cloud Trace (支援 OpenTelemetry)、Cloud Monitoring 和 Cloud Logging,瞭解代理程式行為。
Vertex AI Agent Engine 是 Vertex AI Agent Builder 的一部分,後者是一套可用來探索、建構及部署 AI 代理的功能。
在 Vertex AI Agent Engine 上建立及部署
注意:如要透過 IDE 簡化 Vertex AI Agent Engine 的開發和部署作業,不妨考慮使用agent-starter-pack。這項服務提供現成範本和內建的實驗 UI,並簡化部署、作業、評估、自訂和可觀察性。
在 Vertex AI Agent Engine 上建構代理的程序如下:
步驟 | 說明 |
---|---|
1. 設定環境 | 設定 Google 專案,並安裝最新版的 Vertex AI SDK for Python。 |
2. 開發代理 | 開發可在 Vertex AI Agent Engine 上部署的代理。 |
3. 部署代理程式 | 在 Vertex AI Agent Engine 管理的執行階段上部署代理。 |
4. 使用這個代理程式 | 傳送 API 要求來查詢服務機器人。 |
5. 管理已部署的代理程式 | 管理及刪除已部署至 Vertex AI Agent Engine 的代理。 |
步驟如下圖所示:
支援的架構
下表說明 Vertex AI Agent Engine 為各種代理程式架構提供的支援等級:
支援級別 | 代理程式架構 |
---|---|
自訂範本:您可以調整自訂範本,以便從架構部署至 Vertex AI Agent Engine。 | CrewAI、自訂架構 |
Vertex AI SDK 整合:Vertex AI Agent Engine 在 Vertex AI SDK 和說明文件中提供每個架構的受管理範本。 | AG2、LlamaIndex |
完整整合:整合功能可在框架、Vertex AI Agent Engine 和更廣泛的 Google Cloud 生態系統中運作。 | Agent Development Kit (ADK)、LangChain、LangGraph |
使用 Agent Starter Pack 在正式環境中部署
Agent Starter Pack 是一系列可用於正式環境的生成式 AI 代理程式範本,專為 Vertex AI Agent Engine 建構。Agent Starter Pack 提供以下內容:
- 預先建構的代理程式範本:ReAct、RAG、多代理程式和其他範本。
- 互動式遊樂場:測試並與您的對話方塊互動。
- 自動化基礎架構:使用 Terraform 簡化資源管理作業。
- 持續整合/持續推送軟體更新管道:運用 Cloud Build 的自動部署工作流程。
- 觀測功能:內建 Cloud Trace 和 Cloud Logging 支援功能。
如要開始使用,請參閱快速入門。
用途
如要瞭解 Vertex AI Agent Engine 的端對端範例,請參閱下列資源:
企業安全性
Vertex AI Agent Engine 支援 VPC Service Controls,可強化資料安全性並降低資料竊取風險。設定 VPC Service Controls 後,部署的代理程式將保留 Google API 和服務的安全存取權,例如 BigQuery API、Cloud SQL 管理員 API 和 Vertex AI API,確保在您定義的範圍內順利運作。最重要的是,VPC Service Controls 可有效阻擋所有公用網際網路存取行為,將資料移轉限制在您授權的網路範圍內,大幅提升企業的安全性狀態。
支援的地區
Vertex AI Agent Engine 支援下列地區:
區域 | 位置 | 支援的版本 |
---|---|---|
us-central1 |
愛荷華州 | v1 支援 Google Analytics 功能。預先發布版功能支援 v1beta1 。 |
us-east4 |
北維吉尼亞州 | v1 支援 Google Analytics 功能。預先發布版功能支援 v1beta1 。 |
us-west1 |
奧勒岡州 | v1 支援 Google Analytics 功能。預先發布版功能支援 v1beta1 。 |
europe-west1 |
比利時 | v1 支援 Google Analytics 功能。預先發布版功能支援 v1beta1 。 |
europe-west2 |
倫敦 | v1 支援 Google Analytics 功能。預先發布版功能支援 v1beta1 。 |
europe-west3 |
法蘭克福 | v1 支援 Google Analytics 功能。預先發布版功能支援 v1beta1 。 |
europe-west4 |
荷蘭 | v1 支援 Google Analytics 功能。預先發布版功能支援 v1beta1 。 |
europe-southwest1 |
馬德里 | v1 支援 Google Analytics 功能。v1beta1 支援預先發布版功能。 |
asia-east1 |
台灣 | v1 支援 Google Analytics 功能。預先發布版功能支援 v1beta1 。 |
asia-northeast1 |
東京 | v1 支援 Google Analytics 功能。預先發布版功能支援 v1beta1 。 |
asia-south1 |
孟買 | v1 支援 Google Analytics 功能。預先發布版功能支援 v1beta1 。 |
asia-southeast1 |
新加坡 | v1 支援 Google Analytics 功能。預先發布版功能支援 v1beta1 。 |
australia-southeast2 |
墨爾本 | v1 支援 Google Analytics 功能。預先發布版功能支援 v1beta1 。 |
配額
每個地區的特定專案適用下列 Vertex AI Agent Engine 配額和限制。配額 | 值 |
---|---|
每分鐘建立/刪除/更新 Vertex AI Agent Engine | 10 |
每分鐘的 Vertex AI Agent Engine 查詢/串流查詢 | 60 |
Vertex AI Agent Engine 資源的最大數量 | 100 |
定價
價格取決於部署至 Vertex AI Agent Engine 管理式執行階段的代理程式所使用的運算 (vCPU 小時) 和記憶體 (GiB 小時) 資源。
產品 | SKU ID | 價格 |
---|---|---|
ReasoningEngine vCPU | 8A55-0B95-B7DC | $0.0994 美元/vCPU 時數 |
ReasoningEngine 記憶體 | 0B45-6103-6EC1 | $0.0105 美元/GiB-Hr |
詳情請參閱「定價」。