Agenten erfassen

Mit Sammlungen den Überblick behalten Sie können Inhalte basierend auf Ihren Einstellungen speichern und kategorisieren.

Auf dieser Seite erfahren Sie, wie Sie Cloud Trace auf Ihrem Agenten aktivieren und Traces ansehen, um Antwortzeiten von Abfragen und ausgeführte Vorgänge zu analysieren.

Ein Trace ist eine Zeitachse der Anfragen, während Ihr Kundenservicemitarbeiter auf jede Anfrage antwortet. Das folgende Gantt-Diagramm zeigt beispielsweise einen Beispiel-Trace aus einer LangchainAgent:

Die erste Zeile im Gantt-Diagramm steht für den Trace. Ein Trace besteht aus einzelnen Spans, die eine einzelne Arbeitseinheit darstellen, z. B. einen Funktionsaufruf oder eine Interaktion mit einem LLM. Der erste Span steht für die gesamte Anfrage. Jede Span enthält Details zu einem bestimmten Vorgang, z. B. den Namen, die Start- und Endzeit sowie alle relevanten Attribute in der Anfrage. Das folgende JSON-Beispiel zeigt beispielsweise eine einzelne Span, die einen Aufruf an ein Large Language Model (LLM) darstellt:

  {
    "name": "llm",
    "context": {
        "trace_id": "ed7b336d-e71a-46f0-a334-5f2e87cb6cfc",
        "span_id": "ad67332a-38bd-428e-9f62-538ba2fa90d4"
    },
    "span_kind": "LLM",
    "parent_id": "f89ebb7c-10f6-4bf8-8a74-57324d2556ef",
    "start_time": "2023-09-07T12:54:47.597121-06:00",
    "end_time": "2023-09-07T12:54:49.321811-06:00",
    "status_code": "OK",
    "status_message": "",
    "attributes": {
        "llm.input_messages": [
            {
                "message.role": "system",
                "message.content": "You are an expert Q&A system that is trusted around the world.\nAlways answer the query using the provided context information, and not prior knowledge.\nSome rules to follow:\n1. Never directly reference the given context in your answer.\n2. Avoid statements like 'Based on the context, ...' or 'The context information ...' or anything along those lines."
            },
            {
                "message.role": "user",
                "message.content": "Hello?"
            }
        ],
        "output.value": "assistant: Yes I am here",
        "output.mime_type": "text/plain"
    },
    "events": [],
  }

Weitere Informationen finden Sie in der Cloud Trace-Dokumentation zu Traces und Spans und Trace-Kontext.

Traces für einen Kundenservicemitarbeiter schreiben

So schreiben Sie Traces für einen Agenten:

from vertexai.preview.reasoning_engines import LangchainAgent

agent = LangchainAgent(
    model=model,                # Required.
    tools=[get_exchange_rate],  # Optional.
    enable_tracing=True,        # [New] Optional.
)

from vertexai.preview.reasoning_engines import LanggraphAgent

agent = LanggraphAgent(
    model=model,                # Required.
    tools=[get_exchange_rate],  # Optional.
    enable_tracing=True,        # [New] Optional.
)

Dadurch werden Traces unter dem Projekt in Google Cloud-Projekt einrichten in Cloud Trace exportiert.

Traces für einen Kundenservicemitarbeiter ansehen

Sie können Ihre Traces im Trace Explorer aufrufen:

1. Wenn Sie die Berechtigungen zum Ansehen von Trace-Daten in der Google Cloud Console oder zum Auswählen eines Trace-Bereichs benötigen, bitten Sie Ihren Administrator, Ihnen die IAM-Rolle Cloud Trace-Nutzer (roles/cloudtrace.user) für Ihr Projekt zuzuweisen.

2. Rufen Sie in der Google Cloud Console den Trace Explorer auf:

   Trace Explorer aufrufen

3. Wählen Sie oben auf der Seite Ihr Google Cloud -Projekt (entspricht PROJECT_ID) aus.

Weitere Informationen finden Sie in der Cloud Trace-Dokumentation.

Kontingente und Limits

Einige Attributwerte werden möglicherweise gekürzt, wenn das Kontingentlimit erreicht wird. Weitere Informationen finden Sie unter Cloud Trace-Kontingent.

Preise

Cloud Trace ist in einer kostenlosen Stufe verfügbar. Weitere Informationen finden Sie unter Cloud Trace-Preise.