Vertex AI Agent Engine (früher als LangChain in Vertex AI oder Vertex AI Reasoning Engine bezeichnet) ist eine Reihe von Diensten, mit denen Entwickler KI-Agents in der Produktion bereitstellen, verwalten und skalieren können. Agent Engine verwaltet die Infrastruktur zum Skalieren von KI-Agenten in der Produktion, sodass Sie sich auf die Entwicklung von Anwendungen konzentrieren können. Vertex AI Agent Engine bietet die folgenden Dienste, die Sie einzeln oder in Kombination verwenden können:
Verwaltete Laufzeit:
- Stellen Sie Agents bereit und skalieren Sie sie mit einer verwalteten Runtime und End-to-End-Verwaltungsfunktionen.
- Passen Sie das Container-Image des Agents mit Installationsskripts für Systemabhängigkeiten an, die zur Build-Zeit ausgeführt werden.
- Sicherheitsfunktionen wie VPC Service Controls-Compliance sowie die Konfiguration von Authentifizierung und IAM nutzen.
- Sie können auf Modelle und Tools wie Funktionsaufrufe zugreifen.
- Agents bereitstellen, die mit verschiedenen Python-Frameworks erstellt wurden:
Kontextverwaltung:
Sitzungen (Vorabversion): Mit Agent Engine-Sitzungen können Sie einzelne Interaktionen zwischen Nutzern und Agenten speichern und so definitive Quellen für den Unterhaltungskontext bereitstellen.
Memory Bank (Vorabversion): Mit Agent Engine Memory Bank können Sie Informationen aus Sitzungen speichern und abrufen, um Agent-Interaktionen zu personalisieren.
Example Store (Vorschau): Mit Example Store können Sie Few-Shot-Beispiele speichern und dynamisch abrufen.
Qualität und Bewertung (Vorschau):
- Bewerten Sie die Qualität von Agents mit dem integrierten Gen AI Evaluation Service.
- Mit Example Store die Agentenleistung verbessern
- Agents mit Gemini-Modelltrainingsläufen optimieren
Beobachtbarkeit:
- Verhalten des Agents mit Google Cloud Trace (Unterstützung von OpenTelemetry), Cloud Monitoring und Cloud Logging nachvollziehen.
Vertex AI Agent Engine ist Teil von Vertex AI Agent Builder, einer Reihe von Funktionen zum Entdecken, Erstellen und Bereitstellen von KI-Agents.
Erstellen und bereitstellen mit Vertex AI Agent Engine
Hinweis:Wenn Sie eine optimierte IDE-basierte Entwicklung und Bereitstellung mit Vertex AI Agent Engine wünschen, sollten Sie das Agent-Starter-Pack in Betracht ziehen. Sie bietet sofort einsatzbereite Vorlagen, eine integrierte UI für Tests und vereinfacht Bereitstellung, Betrieb, Bewertung, Anpassung und Beobachtbarkeit.
Der Workflow zum Erstellen eines KI-Agents in Vertex AI Agent Engine sieht so aus:
| Schritte | Beschreibung |
|---|---|
| 1. Umgebung einrichten | Richten Sie Ihr Google-Projekt ein und installieren Sie die neueste Version des Vertex AI SDK für Python. |
| 2. Agent entwickeln | Entwickeln Sie einen Agenten, der in Vertex AI Agent Engine bereitgestellt werden kann. |
| 3. Agent bereitstellen | Stellen Sie den Agent in der verwalteten Laufzeit von Vertex AI Agent Engine bereit. |
| 4. Agent verwenden | Senden Sie eine API-Anfrage, um den Agenten zu fragen. |
| 5. Bereitgestellten Agent verwalten | Verwalten und Löschen von Agents, die Sie in Vertex AI Agent Engine bereitgestellt haben. |
Die Schritte werden im folgenden Diagramm veranschaulicht:
Unterstützte Frameworks
In der folgenden Tabelle wird der Support beschrieben, den Vertex AI Agent Engine für verschiedene Agent-Frameworks bietet:
| Supportstufe | Agent-Frameworks |
|---|---|
| Benutzerdefiniertes Template: Sie können ein benutzerdefiniertes Template anpassen, um die Bereitstellung in Vertex AI Agent Engine über Ihr Framework zu unterstützen. | CrewAI, benutzerdefinierte Frameworks |
| Vertex AI SDK-Integration: Vertex AI Agent Engine bietet verwaltete Vorlagen pro Framework im Vertex AI SDK und in der Dokumentation. | AG2, LlamaIndex |
| Vollständige Integration: Die Funktionen sind so integriert, dass sie im gesamten Framework, in der Vertex AI Agent Engine und im gesamten Google Cloud Ökosystem funktionieren. | Agent Development Kit (ADK), LangChain, LangGraph |
Mit dem Agent Starter Pack in der Produktion bereitstellen
Das Agent Starter Pack ist eine Sammlung von produktionsbereiten Vorlagen für generative KI-Agents, die für Vertex AI Agent Engine entwickelt wurden. Das Agent Starter Pack bietet Folgendes:
- Vordefinierte Agent-Vorlagen:ReAct-, RAG- und Multi-Agent-Vorlagen sowie weitere Vorlagen.
- Interaktiver Playground: Testen Sie Ihren Agent und interagieren Sie mit ihm.
- Automatisierte Infrastruktur: Nutzt Terraform für eine optimierte Ressourcenverwaltung.
- CI/CD-Pipelines: Automatisierte Bereitstellungsworkflows, die Cloud Build nutzen.
- Observability: Integrierte Unterstützung für Cloud Trace und Cloud Logging.
Erste Schritte finden Sie in der Kurzanleitung.
Anwendungsfälle
Weitere Informationen zu Vertex AI Agent Engine mit End-to-End-Beispielen finden Sie in den folgenden Ressourcen:
| Anwendungsfall | Beschreibung | Links |
|---|---|---|
| Agents erstellen, indem eine Verbindung zu öffentlichen APIs hergestellt wird | Währungen umrechnen. Erstellen Sie eine Funktion, die eine Verbindung zu einer Währungsaustauschanwendung herstellt, damit das Modell korrekte Antworten auf Anfragen wie „Wie hoch ist der Wechselkurs von Euro zu Dollar heute?“ liefert. |
Vertex AI SDK für Python-Notebook – Einführung in das Erstellen und Bereitstellen eines Agents mit Vertex AI Agent Engine |
| Design eines Solarprojekts für eine Gemeinde Potenzielle Standorte ermitteln, relevante Behörden und Lieferanten suchen sowie Satellitenbilder und das Solarpotenzial von Regionen und Gebäuden prüfen, um den optimalen Standort für die Installation Ihrer Solarmodule zu finden. |
Vertex AI SDK für Python-Notebook – Erstellen und Bereitstellen eines Google Maps API-Agents mit Vertex AI Agent Engine | |
| Agents erstellen, indem eine Verbindung zu Datenbanken hergestellt wird | Integration in AlloyDB und Cloud SQL for PostgreSQL | Blogpost – LangChain in Vertex AI für AlloyDB und Cloud SQL for PostgreSQL Vertex AI SDK für Python-Notebook – Bereitstellen einer RAG-Anwendung mit Cloud SQL for PostgreSQL in Vertex AI Agent Engine Vertex AI SDK für Python-Notebook – Bereitstellen einer RAG-Anwendung mit AlloyDB for PostgreSQL in Vertex AI Agent Engine |
| Agents mit Tools erstellen, die auf Daten in Ihrer Datenbank zugreifen | Vertex AI SDK für Python-Notebook – Bereitstellen eines Agents mit Vertex AI Agent Engine und MCP Toolbox for Databases | |
| Strukturierte Datenspeicher mit natürlicher Sprache abfragen und analysieren | Vertex AI SDK für Python-Notebook – Conversational Search Agent mit Vertex AI Agent Engine und RAG in Vertex AI Search erstellen | |
| Grafikdatenbanken mit natürlicher Sprache abfragen und analysieren | Blogpost – GenAI GraphRAG and AI agents using Vertex AI Agent Engine with LangChain and Neo4j | |
| Vektorspeicher mit natürlicher Sprache abfragen und analysieren | Blogpost – Simplify GenAI RAG with MongoDB Atlas and Vertex AI Agent Engine | |
| Agenten mit dem Agent Development Kit (Vorschau) erstellen | Agents mit dem Agent Development Kit erstellen und bereitstellen | Agent Development Kit – In Vertex AI Agent Engine bereitstellen |
| Kontext mit Vertex AI Agent Engine-Sitzungen und Memory Bank im Vertex AI-Expressmodus ohne Abrechnung verwalten. | Agent Development Kit – Vertex AI Agent Engine-Sitzungen und Memory Bank im Expressmodus von Vertex AI | |
| Agents mit OSS-Frameworks erstellen | Agents mit dem Open-Source-Framework OneTwo erstellen und bereitstellen | Blogpost – OneTwo und Vertex AI Agent Engine: Entwicklung fortschrittlicher KI-Agenten auf Google Cloud |
| Mit dem Open-Source-Framework LangGraph können Sie Agents erstellen und bereitstellen. | Vertex AI SDK für Python-Notebook – Erstellen und Bereitstellen einer LangGraph-Anwendung mit Vertex AI Agent Engine | |
| Agents debuggen und optimieren | Mit OpenTelemetry und Cloud Trace können Sie Agenten erstellen und für sie Tracing ausführen. | Vertex AI SDK für Python-Notebook – Debugging und Optimieren von Agents: Eine Anleitung zum Tracing in Vertex AI Agent Engine |
Unternehmenssicherheit
Vertex AI Agent Engine unterstützt VPC Service Controls, um die Datensicherheit zu erhöhen und das Risiko einer Daten-Exfiltration zu verringern. Wenn VPC Service Controls konfiguriert ist, behält der bereitgestellte Agent den sicheren Zugriff auf Google-APIs und -Dienste wie die BigQuery API, die Cloud SQL Admin API und die Vertex AI API bei. So wird ein reibungsloser Betrieb innerhalb des von Ihnen definierten Perimeters gewährleistet. VPC Service Controls blockiert effektiv den gesamten öffentlichen Internetzugriff und beschränkt die Datenübertragung auf Ihre autorisierten Netzwerkbegrenzungen. Dadurch wird die Sicherheit Ihres Unternehmens deutlich erhöht.
Unterstützte Regionen
Vertex AI Agent Engine wird in den folgenden Regionen unterstützt:
| Region | Standort | Unterstützte Versionen |
|---|---|---|
us-central1 |
Iowa | v1 wird für allgemein verfügbare Funktionen unterstützt. v1beta1 wird für Vorschaufunktionen unterstützt. |
us-east4 |
Northern Virginia | v1 wird für allgemein verfügbare Funktionen unterstützt. v1beta1 wird für Vorschaufunktionen unterstützt. |
us-west1 |
Oregon | v1 wird für allgemein verfügbare Funktionen unterstützt. v1beta1 wird für Vorschaufunktionen unterstützt. |
europe-west1 |
Belgien | v1 wird für allgemein verfügbare Funktionen unterstützt. v1beta1 wird für Vorschaufunktionen unterstützt. |
europe-west2 |
London | v1 wird für allgemein verfügbare Funktionen unterstützt. v1beta1 wird für Vorschaufunktionen unterstützt. |
europe-west3 |
Frankfurt | v1 wird für allgemein verfügbare Funktionen unterstützt. v1beta1 wird für Vorschaufunktionen unterstützt. |
europe-west4 |
Niederlande | v1 wird für allgemein verfügbare Funktionen unterstützt. v1beta1 wird für Vorschaufunktionen unterstützt. |
europe-southwest1 |
Madrid | v1 wird für allgemein verfügbare Funktionen unterstützt. v1beta1 wird für Vorschaufunktionen unterstützt. |
asia-east1 |
Taiwan | v1 wird für allgemein verfügbare Funktionen unterstützt. v1beta1 wird für Vorschaufunktionen unterstützt. |
asia-northeast1 |
Tokio | v1 wird für allgemein verfügbare Funktionen unterstützt. v1beta1 wird für Vorschaufunktionen unterstützt. |
asia-south1 |
Mumbai | v1 wird für allgemein verfügbare Funktionen unterstützt. v1beta1 wird für Vorschaufunktionen unterstützt. |
asia-southeast1 |
Singapur | v1 wird für allgemein verfügbare Funktionen unterstützt. v1beta1 wird für Vorschaufunktionen unterstützt. |
australia-southeast2 |
Melbourne | v1 wird für allgemein verfügbare Funktionen unterstützt. v1beta1 wird für Vorschaufunktionen unterstützt. |
Für Agent Engine Memory Bank (Vorschau) werden die folgenden Regionen unterstützt:
| Region | Standort | Unterstützte Versionen |
|---|---|---|
us-central1 |
Iowa | Die Version v1beta1 wird unterstützt. |
Kontingent
Die folgenden Limits gelten für Vertex AI Agent Engine für ein bestimmtes Projekt in jeder Region:| Beschreibung | Limit |
|---|---|
| Vertex AI Agent Engine-Agents pro Minute erstellen, löschen oder aktualisieren | 10 |
| Vertex AI Agent Engine-Sitzungen pro Minute erstellen, löschen oder aktualisieren | 100 |
| Vertex AI Agent Engine-Sitzungen pro Minute erstellen, löschen oder aktualisieren | 100 |
Query oder StreamQuery Vertex AI Agent Engine pro Minute |
60 |
| Ereignis an Vertex AI Agent Engine-Sitzungen pro Minute anhängen | 100 |
| Maximale Anzahl von Vertex AI Agent Engine-Ressourcen | 100 |
| Vertex AI Agent Engine-Speicherressourcen pro Minute erstellen, löschen oder aktualisieren | 100 |
| Abrufen, Auflisten oder Abrufen aus dem Vertex AI Agent Engine Memory Bank pro Minute | 300 |
Preise
Die Preise basieren auf den von den Agents verwendeten Rechen- (vCPU-Stunden) und Speicherressourcen (GiB-Stunden), die in der verwalteten Laufzeit von Vertex AI Agent Engine bereitgestellt werden.
| Produkt | SKU-ID | Preis |
|---|---|---|
| ReasoningEngine-vCPU | 8A55-0B95-B7DC | 0,0994 $/vCPU-Std. |
| Arbeitsspeicher der Reasoning Engine | 0B45-6103-6EC1 | 0,0105 $/GiB-Std. |
Weitere Informationen finden Sie unter Preise.