Vertex AI Agent Engine – Übersicht

Vertex AI Agent Engine (früher als LangChain in Vertex AI oder Vertex AI Reasoning Engine bezeichnet) ist eine Reihe von Diensten, mit denen Entwickler KI-Agents in der Produktion bereitstellen, verwalten und skalieren können. Agent Engine verwaltet die Infrastruktur zum Skalieren von KI-Agenten in der Produktion, sodass Sie sich auf die Entwicklung von Anwendungen konzentrieren können. Vertex AI Agent Engine bietet die folgenden Dienste, die Sie einzeln oder in Kombination verwenden können:

  • Verwaltete Laufzeit:

    • Stellen Sie Agents bereit und skalieren Sie sie mit einer verwalteten Runtime und End-to-End-Verwaltungsfunktionen.
    • Passen Sie das Container-Image des Agents mit Installationsskripts für Systemabhängigkeiten an, die zur Build-Zeit ausgeführt werden.
    • Sicherheitsfunktionen wie VPC Service Controls-Compliance sowie die Konfiguration von Authentifizierung und IAM nutzen.
    • Sie können auf Modelle und Tools wie Funktionsaufrufe zugreifen.
    • Agents bereitstellen, die mit verschiedenen Python-Frameworks erstellt wurden:
  • Kontextverwaltung:

    • Sitzungen (Vorabversion): Mit Agent Engine-Sitzungen können Sie einzelne Interaktionen zwischen Nutzern und Agenten speichern und so definitive Quellen für den Unterhaltungskontext bereitstellen.

    • Memory Bank (Vorabversion): Mit Agent Engine Memory Bank können Sie Informationen aus Sitzungen speichern und abrufen, um Agent-Interaktionen zu personalisieren.

    • Example Store (Vorschau): Mit Example Store können Sie Few-Shot-Beispiele speichern und dynamisch abrufen.

  • Qualität und Bewertung (Vorschau):

  • Beobachtbarkeit:

Vertex AI Agent Engine – konzeptionelle Übersicht

Vertex AI Agent Engine ist Teil von Vertex AI Agent Builder, einer Reihe von Funktionen zum Entdecken, Erstellen und Bereitstellen von KI-Agents.

Erstellen und bereitstellen mit Vertex AI Agent Engine

Hinweis:Wenn Sie eine optimierte IDE-basierte Entwicklung und Bereitstellung mit Vertex AI Agent Engine wünschen, sollten Sie das Agent-Starter-Pack in Betracht ziehen. Sie bietet sofort einsatzbereite Vorlagen, eine integrierte UI für Tests und vereinfacht Bereitstellung, Betrieb, Bewertung, Anpassung und Beobachtbarkeit.

Der Workflow zum Erstellen eines KI-Agents in Vertex AI Agent Engine sieht so aus:

Schritte Beschreibung
1. Umgebung einrichten Richten Sie Ihr Google-Projekt ein und installieren Sie die neueste Version des Vertex AI SDK für Python.
2. Agent entwickeln Entwickeln Sie einen Agenten, der in Vertex AI Agent Engine bereitgestellt werden kann.
3. Agent bereitstellen Stellen Sie den Agent in der verwalteten Laufzeit von Vertex AI Agent Engine bereit.
4. Agent verwenden Senden Sie eine API-Anfrage, um den Agenten zu fragen.
5. Bereitgestellten Agent verwalten Verwalten und Löschen von Agents, die Sie in Vertex AI Agent Engine bereitgestellt haben.

Die Schritte werden im folgenden Diagramm veranschaulicht:

Agent erstellen und bereitstellen 

Unterstützte Frameworks

In der folgenden Tabelle wird der Support beschrieben, den Vertex AI Agent Engine für verschiedene Agent-Frameworks bietet:

Supportstufe Agent-Frameworks
Benutzerdefiniertes Template: Sie können ein benutzerdefiniertes Template anpassen, um die Bereitstellung in Vertex AI Agent Engine über Ihr Framework zu unterstützen. CrewAI, benutzerdefinierte Frameworks
Vertex AI SDK-Integration: Vertex AI Agent Engine bietet verwaltete Vorlagen pro Framework im Vertex AI SDK und in der Dokumentation. AG2, LlamaIndex
Vollständige Integration: Die Funktionen sind so integriert, dass sie im gesamten Framework, in der Vertex AI Agent Engine und im gesamten Google Cloud Ökosystem funktionieren. Agent Development Kit (ADK), LangChain, LangGraph

Mit dem Agent Starter Pack in der Produktion bereitstellen

Das Agent Starter Pack ist eine Sammlung von produktionsbereiten Vorlagen für generative KI-Agents, die für Vertex AI Agent Engine entwickelt wurden. Das Agent Starter Pack bietet Folgendes:

  • Vordefinierte Agent-Vorlagen:ReAct-, RAG- und Multi-Agent-Vorlagen sowie weitere Vorlagen.
  • Interaktiver Playground: Testen Sie Ihren Agent und interagieren Sie mit ihm.
  • Automatisierte Infrastruktur: Nutzt Terraform für eine optimierte Ressourcenverwaltung.
  • CI/CD-Pipelines: Automatisierte Bereitstellungsworkflows, die Cloud Build nutzen.
  • Observability: Integrierte Unterstützung für Cloud Trace und Cloud Logging.

Erste Schritte finden Sie in der Kurzanleitung.

Anwendungsfälle

Weitere Informationen zu Vertex AI Agent Engine mit End-to-End-Beispielen finden Sie in den folgenden Ressourcen:

Anwendungsfall Beschreibung Links
Agents erstellen, indem eine Verbindung zu öffentlichen APIs hergestellt wird Währungen umrechnen.

Erstellen Sie eine Funktion, die eine Verbindung zu einer Währungsaustauschanwendung herstellt, damit das Modell korrekte Antworten auf Anfragen wie „Wie hoch ist der Wechselkurs von Euro zu Dollar heute?“ liefert.
Vertex AI SDK für Python-Notebook – Einführung in das Erstellen und Bereitstellen eines Agents mit Vertex AI Agent Engine
Design eines Solarprojekts für eine Gemeinde

 Potenzielle Standorte ermitteln, relevante Behörden und Lieferanten suchen sowie Satellitenbilder und das Solarpotenzial von Regionen und Gebäuden prüfen, um den optimalen Standort für die Installation Ihrer Solarmodule zu finden.
Vertex AI SDK für Python-Notebook – Erstellen und Bereitstellen eines Google Maps API-Agents mit Vertex AI Agent Engine
Agents erstellen, indem eine Verbindung zu Datenbanken hergestellt wird Integration in AlloyDB und Cloud SQL for PostgreSQL Blogpost – LangChain in Vertex AI für AlloyDB und Cloud SQL for PostgreSQL

Vertex AI SDK für Python-Notebook – Bereitstellen einer RAG-Anwendung mit Cloud SQL for PostgreSQL in Vertex AI Agent Engine

Vertex AI SDK für Python-Notebook – Bereitstellen einer RAG-Anwendung mit AlloyDB for PostgreSQL in Vertex AI Agent Engine
Agents mit Tools erstellen, die auf Daten in Ihrer Datenbank zugreifen Vertex AI SDK für Python-Notebook – Bereitstellen eines Agents mit Vertex AI Agent Engine und MCP Toolbox for Databases
Strukturierte Datenspeicher mit natürlicher Sprache abfragen und analysieren Vertex AI SDK für Python-Notebook – Conversational Search Agent mit Vertex AI Agent Engine und RAG in Vertex AI Search erstellen
Grafikdatenbanken mit natürlicher Sprache abfragen und analysieren Blogpost – GenAI GraphRAG and AI agents using Vertex AI Agent Engine with LangChain and Neo4j
Vektorspeicher mit natürlicher Sprache abfragen und analysieren Blogpost – Simplify GenAI RAG with MongoDB Atlas and Vertex AI Agent Engine
Agenten mit dem Agent Development Kit (Vorschau) erstellen Agents mit dem Agent Development Kit erstellen und bereitstellen Agent Development Kit – In Vertex AI Agent Engine bereitstellen
Kontext mit Vertex AI Agent Engine-Sitzungen und Memory Bank im Vertex AI-Expressmodus ohne Abrechnung verwalten. Agent Development Kit – Vertex AI Agent Engine-Sitzungen und Memory Bank im Expressmodus von Vertex AI
Agents mit OSS-Frameworks erstellen Agents mit dem Open-Source-Framework OneTwo erstellen und bereitstellen Blogpost – OneTwo und Vertex AI Agent Engine: Entwicklung fortschrittlicher KI-Agenten auf Google Cloud
Mit dem Open-Source-Framework LangGraph können Sie Agents erstellen und bereitstellen. Vertex AI SDK für Python-Notebook – Erstellen und Bereitstellen einer LangGraph-Anwendung mit Vertex AI Agent Engine
Agents debuggen und optimieren Mit OpenTelemetry und Cloud Trace können Sie Agenten erstellen und für sie Tracing ausführen. Vertex AI SDK für Python-Notebook – Debugging und Optimieren von Agents: Eine Anleitung zum Tracing in Vertex AI Agent Engine

Unternehmenssicherheit

Vertex AI Agent Engine unterstützt VPC Service Controls, um die Datensicherheit zu erhöhen und das Risiko einer Daten-Exfiltration zu verringern. Wenn VPC Service Controls konfiguriert ist, behält der bereitgestellte Agent den sicheren Zugriff auf Google-APIs und -Dienste wie die BigQuery API, die Cloud SQL Admin API und die Vertex AI API bei. So wird ein reibungsloser Betrieb innerhalb des von Ihnen definierten Perimeters gewährleistet. VPC Service Controls blockiert effektiv den gesamten öffentlichen Internetzugriff und beschränkt die Datenübertragung auf Ihre autorisierten Netzwerkbegrenzungen. Dadurch wird die Sicherheit Ihres Unternehmens deutlich erhöht.

Unterstützte Regionen

Vertex AI Agent Engine wird in den folgenden Regionen unterstützt:

Region Standort Unterstützte Versionen
us-central1 Iowa v1 wird für allgemein verfügbare Funktionen unterstützt. v1beta1 wird für Vorschaufunktionen unterstützt.
us-east4 Northern Virginia v1 wird für allgemein verfügbare Funktionen unterstützt. v1beta1 wird für Vorschaufunktionen unterstützt.
us-west1 Oregon v1 wird für allgemein verfügbare Funktionen unterstützt. v1beta1 wird für Vorschaufunktionen unterstützt.
europe-west1 Belgien v1 wird für allgemein verfügbare Funktionen unterstützt. v1beta1 wird für Vorschaufunktionen unterstützt.
europe-west2 London v1 wird für allgemein verfügbare Funktionen unterstützt. v1beta1 wird für Vorschaufunktionen unterstützt.
europe-west3 Frankfurt v1 wird für allgemein verfügbare Funktionen unterstützt. v1beta1 wird für Vorschaufunktionen unterstützt.
europe-west4 Niederlande v1 wird für allgemein verfügbare Funktionen unterstützt. v1beta1 wird für Vorschaufunktionen unterstützt.
europe-southwest1 Madrid v1 wird für allgemein verfügbare Funktionen unterstützt. v1beta1 wird für Vorschaufunktionen unterstützt.
asia-east1 Taiwan v1 wird für allgemein verfügbare Funktionen unterstützt. v1beta1 wird für Vorschaufunktionen unterstützt.
asia-northeast1 Tokio v1 wird für allgemein verfügbare Funktionen unterstützt. v1beta1 wird für Vorschaufunktionen unterstützt.
asia-south1 Mumbai v1 wird für allgemein verfügbare Funktionen unterstützt. v1beta1 wird für Vorschaufunktionen unterstützt.
asia-southeast1 Singapur v1 wird für allgemein verfügbare Funktionen unterstützt. v1beta1 wird für Vorschaufunktionen unterstützt.
australia-southeast2 Melbourne v1 wird für allgemein verfügbare Funktionen unterstützt. v1beta1 wird für Vorschaufunktionen unterstützt.

Für Agent Engine Memory Bank (Vorschau) werden die folgenden Regionen unterstützt:

Region Standort Unterstützte Versionen
us-central1 Iowa Die Version v1beta1 wird unterstützt.

Kontingent

Die folgenden Limits gelten für Vertex AI Agent Engine für ein bestimmtes Projekt in jeder Region:
Beschreibung Limit
Vertex AI Agent Engine-Agents pro Minute erstellen, löschen oder aktualisieren 10
Vertex AI Agent Engine-Sitzungen pro Minute erstellen, löschen oder aktualisieren 100
Vertex AI Agent Engine-Sitzungen pro Minute erstellen, löschen oder aktualisieren 100
Query oder StreamQuery Vertex AI Agent Engine pro Minute 60
Ereignis an Vertex AI Agent Engine-Sitzungen pro Minute anhängen 100
Maximale Anzahl von Vertex AI Agent Engine-Ressourcen 100
Vertex AI Agent Engine-Speicherressourcen pro Minute erstellen, löschen oder aktualisieren 100
Abrufen, Auflisten oder Abrufen aus dem Vertex AI Agent Engine Memory Bank pro Minute 300

Preise

Die Preise basieren auf den von den Agents verwendeten Rechen- (vCPU-Stunden) und Speicherressourcen (GiB-Stunden), die in der verwalteten Laufzeit von Vertex AI Agent Engine bereitgestellt werden.

Produkt SKU-ID Preis
ReasoningEngine-vCPU 8A55-0B95-B7DC 0,0994 $/vCPU-Std.
Arbeitsspeicher der Reasoning Engine 0B45-6103-6EC1 0,0105 $/GiB-Std.

Weitere Informationen finden Sie unter Preise.

Nächste Schritte