Melacak agen

Halaman ini menunjukkan cara mengaktifkan Cloud Trace di agen Anda dan melihat trace untuk menganalisis waktu respons kueri dan operasi yang dijalankan.

Pelacakan adalah linimasa permintaan saat agen Anda merespons setiap kueri. Misalnya, diagram Gantt berikut menunjukkan contoh rekaman aktivitas dari LangchainAgent:

Contoh Pelacakan untuk Kueri 

Baris pertama dalam diagram Gantt adalah untuk rekaman aktivitas. Rekaman aktivitas terdiri dari setiap span, yang mewakili satu unit tugas, seperti panggilan fungsi atau interaksi dengan LLM, dengan span pertama mewakili keseluruhan permintaan. Setiap span memberikan detail tentang operasi tertentu, seperti nama operasi, waktu mulai dan waktu berakhir, dan atribut yang relevan, dalam permintaan. Misalnya, JSON berikut menampilkan satu span yang mewakili panggilan ke model bahasa besar (LLM):

  {
    "name": "llm",
    "context": {
        "trace_id": "ed7b336d-e71a-46f0-a334-5f2e87cb6cfc",
        "span_id": "ad67332a-38bd-428e-9f62-538ba2fa90d4"
    },
    "span_kind": "LLM",
    "parent_id": "f89ebb7c-10f6-4bf8-8a74-57324d2556ef",
    "start_time": "2023-09-07T12:54:47.597121-06:00",
    "end_time": "2023-09-07T12:54:49.321811-06:00",
    "status_code": "OK",
    "status_message": "",
    "attributes": {
        "llm.input_messages": [
            {
                "message.role": "system",
                "message.content": "You are an expert Q&A system that is trusted around the world.\nAlways answer the query using the provided context information, and not prior knowledge.\nSome rules to follow:\n1. Never directly reference the given context in your answer.\n2. Avoid statements like 'Based on the context, ...' or 'The context information ...' or anything along those lines."
            },
            {
                "message.role": "user",
                "message.content": "Hello?"
            }
        ],
        "output.value": "assistant: Yes I am here",
        "output.mime_type": "text/plain"
    },
    "events": [],
  }

Untuk mengetahui detailnya, lihat dokumentasi Cloud Trace tentang Trace dan span dan Konteks trace.

Menulis rekaman aktivitas untuk agen

Untuk menulis rekaman aktivitas untuk agen:

ADK

Untuk mengaktifkan pelacakan AdkApp, tentukan enable_tracing=True saat Anda mengembangkan agen Agent Development Kit. Contoh:

  from vertexai.preview.reasoning_engines import AdkApp
  from google.adk.agents import Agent

  agent = Agent(
      model=model,
      name=agent_name,
      tools=[get_exchange_rate],
  )

  app = AdkApp(
      agent=agent,          # Required.
      enable_tracing=True,  # Optional.
  )

LangchainAgent

Untuk mengaktifkan pelacakan LangchainAgent, tentukan enable_tracing=True saat Anda mengembangkan agen LangChain. Contoh:

from vertexai.preview.reasoning_engines import LangchainAgent

agent = LangchainAgent(
    model=model,                # Required.
    tools=[get_exchange_rate],  # Optional.
    enable_tracing=True,        # [New] Optional.
)

LanggraphAgent

Untuk mengaktifkan pelacakan LanggraphAgent, tentukan enable_tracing=True saat Anda mengembangkan agen LangGraph. Contoh:

from vertexai.preview.reasoning_engines import LanggraphAgent

agent = LanggraphAgent(
    model=model,                # Required.
    tools=[get_exchange_rate],  # Optional.
    enable_tracing=True,        # [New] Optional.
)

LlamaIndex

Untuk mengaktifkan pelacakan LlamaIndexQueryPipelineAgent, tentukan enable_tracing=True saat Anda mengembangkan agen LlamaIndex. Contoh:

from vertexai.preview import reasoning_engines

  def runnable_with_tools_builder(model, runnable_kwargs=None, **kwargs):
      from llama_index.core.query_pipeline import QueryPipeline
      from llama_index.core.tools import FunctionTool
      from llama_index.core.agent import ReActAgent

      llama_index_tools = []
      for tool in runnable_kwargs.get("tools"):
          llama_index_tools.append(FunctionTool.from_defaults(tool))
      agent = ReActAgent.from_tools(llama_index_tools, llm=model, verbose=True)
      return QueryPipeline(modules = {"agent": agent})

  agent = reasoning_engines.LlamaIndexQueryPipelineAgent(
      model="gemini-2.0-flash",
      runnable_kwargs={"tools": [get_exchange_rate]},
      runnable_builder=runnable_with_tools_builder,
      enable_tracing=True,        # Optional
  )

Kustom

Untuk mengaktifkan pelacakan agen kustom, buka Pelacakan menggunakan OpenTelemetry untuk mengetahui detailnya.

Tindakan ini akan mengekspor trace ke Cloud Trace dalam project di Menyiapkan Google Cloud project.

Melihat trace untuk agen

Anda dapat melihat rekaman aktivitas menggunakan Trace Explorer:

  1. Untuk mendapatkan izin guna melihat data rekaman aktivitas di Google Cloud konsol atau memilih cakupan rekaman aktivitas, minta administrator untuk memberi Anda peran IAM Cloud Trace User (roles/cloudtrace.user) di project Anda.

  2. Buka Trace Explorer di konsol Google Cloud :

    Buka Trace Explorer

  3. Pilih Google Cloud project Anda (sesuai dengan PROJECT_ID) di bagian atas halaman.

Untuk mempelajari lebih lanjut, lihat dokumentasi Cloud Trace.

Kuota dan batas

Beberapa nilai atribut mungkin terpotong saat mencapai batas kuota. Untuk mengetahui informasi selengkapnya, lihat Kuota Cloud Trace.

Harga

Cloud Trace memiliki paket gratis. Untuk mengetahui informasi selengkapnya, lihat Harga Cloud Trace.