Ringkasan Vertex AI Agent Engine

Vertex AI Agent Engine adalah serangkaian layanan yang memungkinkan developer men-deploy, mengelola, dan menskalakan agen AI dalam produksi. Agent Engine menangani infrastruktur untuk menskalakan agen dalam produksi sehingga Anda dapat berfokus pada pembuatan aplikasi. Vertex AI Agent Engine menawarkan layanan berikut yang dapat Anda gunakan secara terpisah atau bersamaan:

  • Runtime:

  • Kualitas dan evaluasi (Pratinjau): Evaluasi kualitas agen dengan layanan Evaluasi AI Generatif terintegrasi dan optimalkan agen dengan menjalankan pelatihan model Gemini.

  • Contoh Toko (Pratinjau): Simpan dan ambil contoh few-shot secara dinamis untuk meningkatkan performa agen.

  • Sesi (Pratinjau): Sesi Agent Engine memungkinkan Anda menyimpan setiap interaksi antara pengguna dan agen, sehingga memberikan sumber pasti untuk konteks percakapan.

  • Bank Memori (Pratinjau): Bank Memori Agent Engine memungkinkan Anda menyimpan dan mengambil informasi dari sesi untuk mempersonalisasi interaksi agen.

Ringkasan konseptual Vertex AI Agent Engine

Vertex AI Agent Engine adalah bagian dari Vertex AI Agent Builder, serangkaian fitur untuk menemukan, membangun, dan men-deploy agen AI.

Membuat dan men-deploy di Vertex AI Agent Engine

Catatan: Untuk pengalaman pengembangan dan deployment berbasis IDE yang disederhanakan dengan Vertex AI Agent Engine, pertimbangkan agent-starter-pack. MLOps menyediakan template siap pakai, UI bawaan untuk eksperimen, serta menyederhanakan deployment, operasi, evaluasi, penyesuaian, dan kemampuan pengamatan.

Alur kerja untuk membangun agen di Vertex AI Agent Engine adalah:

Langkah Deskripsi
1. Menyiapkan lingkungan Siapkan project Google Anda dan instal Vertex AI SDK untuk Python versi terbaru.
2. Mengembangkan agen Mengembangkan agen yang dapat di-deploy di Vertex AI Agent Engine.
3. Men-deploy agen Men-deploy agen di runtime terkelola Vertex AI Agent Engine.
4. Menggunakan agen Kueri agen dengan mengirim permintaan API.
5. Mengelola agen yang di-deploy Mengelola dan menghapus agen yang telah Anda deploy ke Vertex AI Agent Engine.

Langkah-langkahnya diilustrasikan oleh diagram berikut:

Membuat dan men-deploy agen 

Framework yang didukung

Tabel berikut menjelaskan tingkat dukungan yang diberikan Vertex AI Agent Engine untuk berbagai framework agen:

Level dukungan Framework agen
Template kustom: Anda dapat menyesuaikan template kustom untuk mendukung deployment ke Vertex AI Agent Engine dari framework Anda. CrewAI, framework kustom
Integrasi Vertex AI SDK: Vertex AI Agent Engine menyediakan template terkelola per framework di Vertex AI SDK dan dokumentasi. AG2, LlamaIndex
Integrasi penuh: Fitur diintegrasikan untuk berfungsi di seluruh framework, Vertex AI Agent Engine, dan ekosistem Google Cloud yang lebih luas. Agent Development Kit (ADK), LangChain, LangGraph

Men-deploy dalam produksi dengan Agent Starter Pack

Agent Starter Pack adalah kumpulan template agen AI generatif siap produksi yang dibuat untuk Vertex AI Agent Engine. Paket Pemula Agen menyediakan hal berikut:

  • Template agen siap pakai: ReAct, RAG, multi-agen, dan template lainnya.
  • Playground interaktif: Uji dan berinteraksi dengan agen Anda.
  • Infrastruktur otomatis: Menggunakan Terraform untuk pengelolaan resource yang disederhanakan.
  • Pipeline CI/CD: Alur kerja deployment otomatis yang memanfaatkan Cloud Build.
  • Kemampuan observasi: Dukungan bawaan untuk Cloud Trace dan Cloud Logging.

Untuk memulai, lihat Panduan memulai.

Kasus penggunaan

Untuk mempelajari Vertex AI Agent Engine dengan contoh end-to-end, lihat referensi berikut:

Kasus Penggunaan Deskripsi Link
Membangun agen dengan terhubung ke API publik Mengonversi antar-mata uang.

Buat fungsi yang terhubung ke aplikasi pertukaran mata uang, sehingga model dapat memberikan jawaban yang akurat untuk kueri seperti "Berapa nilai tukar euro terhadap dolar hari ini?"
Notebook Vertex AI SDK for Python - Pengantar Pembuatan dan Deployment Agen dengan Vertex AI Agent Engine
Mendesain project surya komunitas.

Identifikasi potensi lokasi, cari kantor pemerintah dan pemasok yang relevan, serta tinjau gambar satelit dan potensi tenaga surya di wilayah dan bangunan untuk menemukan lokasi optimal untuk memasang panel surya Anda.
Notebook Vertex AI SDK for Python - Membangun dan Men-deploy Agen Google Maps API dengan Vertex AI Agent Engine
Membangun agen dengan terhubung ke database Integrasi dengan AlloyDB dan Cloud SQL untuk PostgreSQL. Postingan blog - Mengumumkan LangChain di Vertex AI untuk AlloyDB dan Cloud SQL untuk PostgreSQL

Notebook Vertex AI SDK untuk Python - Deploying a RAG Application with Cloud SQL for PostgreSQL to Vertex AI Agent Engine

Notebook Vertex AI SDK untuk Python - Deploying a RAG Application with AlloyDB for PostgreSQL to Vertex AI Agent Engine
Bangun agen dengan alat yang mengakses data di database Anda. Notebook Vertex AI SDK for Python - Deploying an Agent with Vertex AI Agent Engine and MCP Toolbox for Databases
Buat kueri dan pahami penyimpanan data terstruktur menggunakan natural language. Notebook Vertex AI SDK for Python - Membangun Agen Penelusuran Percakapan dengan Vertex AI Agent Engine dan RAG di Vertex AI Search
Membuat kueri dan memahami database grafik menggunakan natural language Postingan blog - GraphRAG dan agen AI GenAI menggunakan Vertex AI Agent Engine dengan LangChain dan Neo4j
Membuat kueri dan memahami penyimpanan vektor menggunakan natural language Postingan blog - Menyederhanakan RAG GenAI dengan MongoDB Atlas dan Vertex AI Agent Engine
Membangun agen dengan Agent Development Kit (pratinjau) Bangun dan deploy agen menggunakan Agent Development Kit. Agent Development Kit -- Deploy ke Vertex AI Agent Engine
Kelola konteks dengan Sesi dan Bank Memori Vertex AI Agent Engine dalam mode ekspres Vertex AI tanpa penagihan. Agent Development Kit -- Sesi dan Bank Memori Vertex AI Agent Engine dalam mode ekspres Vertex AI.
Membangun agen dengan framework OSS Bangun dan deploy agen menggunakan framework open source OneTwo. Postingan blog - OneTwo dan Vertex AI Agent Engine: menjelajahi pengembangan agen AI tingkat lanjut di Google Cloud
Bangun dan deploy agen menggunakan framework open source LangGraph. Notebook Vertex AI SDK for Python - Membangun dan Men-deploy Aplikasi LangGraph dengan Vertex AI Agent Engine
Melakukan proses debug dan mengoptimalkan agen Bangun dan lacak agen menggunakan OpenTelemetry dan Cloud Trace. Notebook Vertex AI SDK for Python - Debugging dan Pengoptimalan Agen: Panduan untuk Melakukan Tracing di Vertex AI Agent Engine

Keamanan perusahaan

Vertex AI Agent Engine mendukung Kontrol Layanan VPC untuk memperkuat keamanan data dan mengurangi risiko pemindahan data yang tidak sah. Jika Kontrol Layanan VPC dikonfigurasi, agen yang di-deploy akan mempertahankan akses aman ke API dan layanan Google, seperti BigQuery API, Cloud SQL Admin API, dan Vertex AI API, sehingga memverifikasi operasi yang lancar dalam perimeter yang Anda tentukan. Yang penting, Kontrol Layanan VPC secara efektif memblokir semua akses internet publik, membatasi pergerakan data ke batas jaringan yang diizinkan, dan meningkatkan postur keamanan perusahaan Anda secara signifikan.

Region yang didukung

Vertex AI Agent Engine didukung di region berikut:

Wilayah Lokasi Versi yang didukung
us-central1 Iowa v1 didukung untuk fitur GA. v1beta1 didukung untuk fitur Pratinjau.
us-east4 Northern Virginia v1 didukung untuk fitur GA. v1beta1 didukung untuk fitur Pratinjau.
us-west1 Oregon v1 didukung untuk fitur GA. v1beta1 didukung untuk fitur Pratinjau.
europe-west1 Belgia v1 didukung untuk fitur GA. v1beta1 didukung untuk fitur Pratinjau.
europe-west2 London v1 didukung untuk fitur GA. v1beta1 didukung untuk fitur Pratinjau.
europe-west3 Frankfurt v1 didukung untuk fitur GA. v1beta1 didukung untuk fitur Pratinjau.
europe-west4 Belanda v1 didukung untuk fitur GA. v1beta1 didukung untuk fitur Pratinjau.
europe-southwest1 Madrid v1 didukung untuk fitur GA. v1beta1 didukung untuk fitur Pratinjau.
asia-east1 Taiwan v1 didukung untuk fitur GA. v1beta1 didukung untuk fitur Pratinjau.
asia-northeast1 Tokyo v1 didukung untuk fitur GA. v1beta1 didukung untuk fitur Pratinjau.
asia-south1 Mumbai v1 didukung untuk fitur GA. v1beta1 didukung untuk fitur Pratinjau.
asia-southeast1 Singapura v1 didukung untuk fitur GA. v1beta1 didukung untuk fitur Pratinjau.
australia-southeast2 Melbourne v1 didukung untuk fitur GA. v1beta1 didukung untuk fitur Pratinjau.

Untuk Agent Engine Memory Bank (Pratinjau), region berikut didukung:

Wilayah Lokasi Versi yang didukung
us-central1 Iowa Versi v1beta1 didukung.
us-west1 Oregon Versi v1beta1 didukung.
europe-west1 Belgia Versi v1beta1 didukung.
europe-west4 Belanda Versi v1beta1 didukung.
europe-southwest1 Madrid Versi v1beta1 didukung.

Kuota

Batas berikut berlaku untuk Vertex AI Agent Engine untuk project tertentu di setiap region:
Deskripsi Batas
Membuat, menghapus, atau memperbarui Agent Engine Vertex AI per menit 10
Membuat, menghapus, atau memperbarui sesi Vertex AI Agent Engine per menit 100
Query atau StreamQuery Vertex AI Agent Engine per menit 60
Menambahkan peristiwa ke sesi Vertex AI Agent Engine per menit 300
Jumlah maksimum resource Vertex AI Agent Engine 100
Membuat, menghapus, atau memperbarui resource memori Vertex AI Agent Engine per menit 100
Mendapatkan, mencantumkan, atau mengambil dari Vertex AI Agent Engine Memory Bank per menit 300

Harga

Harga didasarkan pada resource komputasi (jam vCPU) dan memori (jam GiB) yang digunakan oleh agen yang di-deploy ke runtime terkelola Vertex AI Agent Engine.

Produk ID SKU Harga
vCPU ReasoningEngine 8A55-0B95-B7DC $0,0994/vCPU-Jam
Memori ReasoningEngine 0B45-6103-6EC1 $0,0105/GiB-Jam

Untuk informasi selengkapnya, lihat harga.

Langkah berikutnya