Rastrear um agente

Mantenha tudo organizado com as coleções Salve e categorize o conteúdo com base nas suas preferências.

Esta página mostra como ativar o Cloud Trace no agente e conferir rastros para analisar os tempos de resposta da consulta e as operações executadas.

Um trace é uma linha do tempo de solicitações à medida que o agente responde a cada consulta. Por exemplo, o gráfico de Gantt a seguir mostra um exemplo de trace de um LangchainAgent:

A primeira linha no diagrama de Gantt é para o trace. Um rastro é composto por períodos individuais, que representam uma única unidade de trabalho, como uma chamada de função ou uma interação com um LLM, com o primeiro período representando a solicitação geral. Cada período fornece detalhes sobre uma operação específica, como o nome, os horários de início e término e todos os atributos relevantes na solicitação. Por exemplo, o JSON a seguir mostra um único período que representa uma chamada para um modelo de linguagem grande (LLM):

  {
    "name": "llm",
    "context": {
        "trace_id": "ed7b336d-e71a-46f0-a334-5f2e87cb6cfc",
        "span_id": "ad67332a-38bd-428e-9f62-538ba2fa90d4"
    },
    "span_kind": "LLM",
    "parent_id": "f89ebb7c-10f6-4bf8-8a74-57324d2556ef",
    "start_time": "2023-09-07T12:54:47.597121-06:00",
    "end_time": "2023-09-07T12:54:49.321811-06:00",
    "status_code": "OK",
    "status_message": "",
    "attributes": {
        "llm.input_messages": [
            {
                "message.role": "system",
                "message.content": "You are an expert Q&A system that is trusted around the world.\nAlways answer the query using the provided context information, and not prior knowledge.\nSome rules to follow:\n1. Never directly reference the given context in your answer.\n2. Avoid statements like 'Based on the context, ...' or 'The context information ...' or anything along those lines."
            },
            {
                "message.role": "user",
                "message.content": "Hello?"
            }
        ],
        "output.value": "assistant: Yes I am here",
        "output.mime_type": "text/plain"
    },
    "events": [],
  }

Para mais detalhes, consulte a documentação do Cloud Trace sobre Traces e spans e Contexto do trace.

Gravar rastros de um agente

Para gravar rastros de um agente:

from vertexai.preview.reasoning_engines import LangchainAgent

agent = LangchainAgent(
    model=model,                # Required.
    tools=[get_exchange_rate],  # Optional.
    enable_tracing=True,        # [New] Optional.
)

from vertexai.preview.reasoning_engines import LanggraphAgent

agent = LanggraphAgent(
    model=model,                # Required.
    tools=[get_exchange_rate],  # Optional.
    enable_tracing=True,        # [New] Optional.
)

Isso vai exportar os traces para o Cloud Trace no projeto em Configurar projeto do Google Cloud.

Conferir rastros de um agente

É possível conferir seus traces usando o Explorador de traces:

1. Para receber as permissões de visualização de dados de rastreamento no console do Google Cloud ou selecionar um escopo de rastreamento, peça ao administrador para conceder a você o papel do IAM de Usuário do Cloud Trace (roles/cloudtrace.user) no seu projeto.

2. Acesse o Explorador de traces no console do Google Cloud:

   Acessar Explorador de traces

3. Selecione o projeto Google Cloud (correspondente a PROJECT_ID) na parte de cima da página.

Para saber mais, consulte a documentação do Cloud Trace.

Cotas e limites

Alguns valores de atributo podem ser truncados quando atingem os limites de cota. Para mais informações, consulte Cota do Cloud Trace.

Preços

O Cloud Trace tem um nível gratuito. Para mais informações, consulte Preços do Cloud Trace.