Melacak agen

Tetap teratur dengan koleksi Simpan dan kategorikan konten berdasarkan preferensi Anda.

Halaman ini menunjukkan cara mengaktifkan Cloud Trace di agen Anda dan melihat trace untuk menganalisis waktu respons kueri dan operasi yang dijalankan.

Pelacakan adalah linimasa permintaan saat agen Anda merespons setiap kueri. Misalnya, diagram Gantt berikut menunjukkan contoh rekaman aktivitas dari LangchainAgent:

Baris pertama dalam diagram Gantt adalah untuk rekaman aktivitas. Rekaman aktivitas terdiri dari setiap span, yang mewakili satu unit tugas, seperti panggilan fungsi atau interaksi dengan LLM, dengan span pertama mewakili keseluruhan permintaan. Setiap span memberikan detail tentang operasi tertentu, seperti nama operasi, waktu mulai dan waktu berakhir, dan atribut yang relevan, dalam permintaan. Misalnya, JSON berikut menampilkan satu span yang mewakili panggilan ke model bahasa besar (LLM):

  {
    "name": "llm",
    "context": {
        "trace_id": "ed7b336d-e71a-46f0-a334-5f2e87cb6cfc",
        "span_id": "ad67332a-38bd-428e-9f62-538ba2fa90d4"
    },
    "span_kind": "LLM",
    "parent_id": "f89ebb7c-10f6-4bf8-8a74-57324d2556ef",
    "start_time": "2023-09-07T12:54:47.597121-06:00",
    "end_time": "2023-09-07T12:54:49.321811-06:00",
    "status_code": "OK",
    "status_message": "",
    "attributes": {
        "llm.input_messages": [
            {
                "message.role": "system",
                "message.content": "You are an expert Q&A system that is trusted around the world.\nAlways answer the query using the provided context information, and not prior knowledge.\nSome rules to follow:\n1. Never directly reference the given context in your answer.\n2. Avoid statements like 'Based on the context, ...' or 'The context information ...' or anything along those lines."
            },
            {
                "message.role": "user",
                "message.content": "Hello?"
            }
        ],
        "output.value": "assistant: Yes I am here",
        "output.mime_type": "text/plain"
    },
    "events": [],
  }

Untuk mengetahui detailnya, lihat dokumentasi Cloud Trace tentang Trace dan span dan Konteks trace.

Menulis rekaman aktivitas untuk agen

Untuk menulis rekaman aktivitas untuk agen:

from vertexai.preview.reasoning_engines import LangchainAgent

agent = LangchainAgent(
    model=model,                # Required.
    tools=[get_exchange_rate],  # Optional.
    enable_tracing=True,        # [New] Optional.
)

from vertexai.preview.reasoning_engines import LanggraphAgent

agent = LanggraphAgent(
    model=model,                # Required.
    tools=[get_exchange_rate],  # Optional.
    enable_tracing=True,        # [New] Optional.
)

Tindakan ini akan mengekspor rekaman aktivitas ke Cloud Trace dalam project di Menyiapkan project Google Cloud.

Melihat trace untuk agen

Anda dapat melihat rekaman aktivitas menggunakan Trace Explorer:

1. Untuk mendapatkan izin guna melihat data rekaman aktivitas di konsol Google Cloud atau memilih cakupan rekaman aktivitas, minta administrator untuk memberi Anda peran IAM Cloud Trace User (roles/cloudtrace.user) di project Anda.

2. Buka Trace Explorer di konsol Google Cloud:

   Buka Trace Explorer

3. Pilih Google Cloud project Anda (sesuai dengan PROJECT_ID) di bagian atas halaman.

Untuk mempelajari lebih lanjut, lihat dokumentasi Cloud Trace.

Kuota dan batas

Beberapa nilai atribut mungkin terpotong saat mencapai batas kuota. Untuk mengetahui informasi selengkapnya, lihat Kuota Cloud Trace.

Harga

Cloud Trace memiliki paket gratis. Untuk mengetahui informasi selengkapnya, lihat Harga Cloud Trace.