配置日志存储分区

本文档介绍了如何使用 Google Cloud 控制台、Google Cloud CLILogging API 创建和管理 Cloud Logging 存储分区。其中还提供了有关在 Google Cloud 项目级创建和管理日志存储分区的说明。您无法在文件夹级或组织级创建日志存储分区;不过,Cloud Logging 会自动为您在文件夹级和组织级创建 _Default_Required 日志存储分区。

您可以升级日志存储分区以使用 Log Analytics。借助 Log Analytics,您可以对日志数据运行 SQL 查询,从而帮助您排查应用、安全和网络问题。

如需使用 BigQuery 分析日志数据,您有两种选择:

  • 升级日志存储桶以使用 Log Analytics,然后创建关联的 BigQuery 数据集。在这种情况下,Logging 会存储日志数据,但 BigQuery 可以读取日志数据。

  • 将日志条目导出到 BigQuery。在这种情况下,您必须创建一个接收器,BigQuery 会存储和管理数据,并且您可以选择使用分区表。

当您的日志数据可供 BigQuery 使用时,您可以将日志数据与存储在 BigQuery 中的其他数据联接,还可以通过 Looker 数据洞察和 Looker 等其他工具访问这些数据。

如需了解存储桶的概念性概览,请参阅路由和存储概览:日志存储桶

本文档未介绍如何创建使用客户管理的加密密钥 (CMEK) 的日志存储桶。如果您对该主题感兴趣,请参阅为日志存储空间配置 CMEK

准备工作

如需开始使用存储桶,请执行以下操作:

  • 配置 Google Cloud 项目:
    1. Make sure that billing is enabled for your Google Cloud project.

    2. 如需获得创建、升级和关联日志存储桶所需的权限,请让您的管理员为您授予项目的 Logs Configuration Writer (roles/logging.configWriter) IAM 角色。 如需详细了解如何授予角色,请参阅管理对项目、文件夹和组织的访问权限

      您也可以通过自定义角色或其他预定义角色来获取所需的权限。

      如需查看权限和角色的完整列表,请参阅使用 IAM 进行访问权限控制

    3. 可选:如需使用 BigQuery 查看存储在日志存储桶中的数据,请执行以下操作:
      1. 确保已启用 BigQuery API。您可以通过列出可用服务来验证该 API 是否已启用。
      2. 您的 Identity and Access Management 角色包含允许您创建关联的数据集的权限。 如需了解详情,请参阅关联的 BigQuery 数据集的权限
  • 了解可以存储日志的受支持的地区
  • Select the tab for how you plan to use the samples on this page:

    Console

    When you use the Google Cloud console to access Google Cloud services and APIs, you don't need to set up authentication.

    gcloud

    In the Google Cloud console, activate Cloud Shell.

    Activate Cloud Shell

    At the bottom of the Google Cloud console, a Cloud Shell session starts and displays a command-line prompt. Cloud Shell is a shell environment with the Google Cloud CLI already installed and with values already set for your current project. It can take a few seconds for the session to initialize.

    REST

    如需在本地开发环境中使用本页面上的 REST API 示例,请使用您提供给 gcloud CLI 的凭据。

      Install the Google Cloud CLI, then initialize it by running the following command:

      gcloud init

    如需了解详情,请参阅 Google Cloud 身份验证文档中的使用 REST 时进行身份验证

  • 如果您打算使用 Google Cloud CLI 或 Cloud Logging API 创建或管理日志分桶,请了解 LogBucket 格式要求。

创建存储桶

您最多可以为每个 Google Cloud 项目创建 100 个存储分区。

如需为您的 Google Cloud 项目创建用户定义的日志存储桶,请执行以下操作:

Google Cloud 控制台

如需在 Google Cloud 项目中创建日志存储桶,请执行以下操作:

  1. 在 Google Cloud 控制台中,转到日志存储页面:

    前往日志存储

    如果您使用搜索栏查找此页面,请选择子标题为 Logging 的结果。

  2. 点击创建日志存储桶

  3. 为存储桶输入名称说明

  4. 可选:升级存储桶以使用 Log Analytics。

    1. 选择升级以使用 Log Analytics

      升级存储桶以使用 Log Analytics 后,您可以在 Log Analytics 页面中使用 SQL 查询来查询日志。您还可以继续使用日志浏览器查看日志。

    2. 可选:如需在 BigQuery 中查看日志,请选择创建链接到此存储桶的新 BigQuery 数据集,然后输入唯一的数据集名称。

      选择此选项后,BigQuery 可以读取存储在日志存储桶中的数据。现在,您可以在 BigQuery 界面中进行查询,在其中联接日志数据,还可以访问 Looker Studio 和 Looker 等其他工具中的数据。

  5. 可选:如需为日志选择存储区域,请点击选择日志存储桶区域菜单,然后选择一个区域。如果您未选择任何区域,系统会使用 global 区域,这意味着日志可能实际位于任何受支持的区域。

  6. 可选:如需为存储桶中的日志设置自定义保留期限,请点击下一步

    保留期限字段中,输入您希望 Cloud Logging 保留日志的天数(介于 1 天到 3650 天之间)。如果您不自定义保留期限,则默认值为 30 days

    您也可以在创建存储桶后更新该存储桶以应用自定义保留期限。

  7. 点击创建存储桶

    创建日志存储桶后,日志记录功能会升级该存储桶并创建数据集关联(如果选择了这些选项)。

    这些步骤可能需要一些时间才能完成。

gcloud

如需仅创建日志存储桶,请运行 gcloud logging buckets create 命令。如果您想升级日志存储桶以使用 Log Analytics,请添加 --enable-analytics--async 标志,并确保将变量 LOCATION 设置为受支持的区域

gcloud logging buckets create BUCKET_ID --location=LOCATION --enable-analytics --async OPTIONAL_FLAGS

标志 --async 会强制将命令设为异步。异步方法的返回值是一个 Operation 对象,其中包含有关方法进度的相关信息。方法完成后,Operation 对象会包含状态。如需了解详情,请参阅异步 API 方法

如果您不想升级日志存储桶以使用 Log Analytics,请省略 --enable-analytics--async 标志。

例如,如果要在 global 区域中创建具有 BUCKET_ID my-bucket 的存储桶,您的命令将如下所示:

gcloud logging buckets create my-bucket --location global --description "My first bucket"

例如,如果要在 global 位置创建具有 BUCKET_ID my-upgraded-bucket 的存储桶,然后升级日志存储桶以使用 Log Analytics,您的命令将如下所示:

gcloud logging buckets create my-upgraded-bucket --location global \
      --description "My first upgraded bucket" \
      --enable-analytics --retention-days=45

REST

如需创建存储桶,请使用 projects.locations.buckets.createprojects.locations.buckets.createAsync 方法。请按以下步骤准备方法的参数:

  1. parent 参数设置为要在其中创建存储桶的资源:projects/PROJECT_ID/locations/LOCATION

    变量 LOCATION 是指要在其中存储日志的区域

    例如,如果您想在 global 区域中为项目 my-project 创建存储桶,您的 parent 参数将如下所示:projects/my-project/locations/global

  2. 设置 bucketId 参数;例如 my-bucket

  3. 执行以下任一操作:

    • 如需创建日志存储桶,然后升级日志存储桶以使用 Log Analytics,请执行以下操作:

      1. LogBucket.analyticsEnabled 布尔值设置为 true

      2. 调用异步方法 projects.locations.buckets.createAsync 以创建存储桶。

        对异步方法的响应是一个 Operation 对象。此对象包含有关该方法进度的相关信息。方法完成后,Operation 对象会包含状态。如需了解详情,请参阅异步 API 方法

        createAsync 方法需要几分钟才能完成。当 analyticsEnabled 布尔值设置为 true 时,此方法不会生成错误消息或失败。

    • 否则,请调用同步方法 projects.locations.buckets.create 来创建存储桶。

创建存储桶后,创建一个接收器以将日志条目路由到您的存储桶,并配置日志视图以控制哪些人可以访问新存储桶中的日志,以及可以访问哪些日志。您还可以更新存储桶以配置自定义保留期限受限字段

跟踪日志存储分区中存储的日志量

Google Cloud 控制台中的日志存储页面会跟踪日志存储分区中存储的日志数据量:

在 Google Cloud 控制台中,转到日志存储页面:

前往日志存储

如果您使用搜索栏查找此页面,请选择子标题为 Logging 的结果。

日志存储页面会显示 Google Cloud 项目的统计信息摘要:

摘要统计信息会报告所选项目在日志存储分区中存储的日志数据量。

系统会报告以下统计信息:

  • 当前月份提取量:您的 Google Cloud 项目自当前日历月第一天以来存储在日志存储分区中的数据量。

  • 上个月提取的数据量:您的 Google Cloud 项目在上个日历月存储在日志存储分区中的数据量。

  • 预计 EOM 提取量:根据当前使用情况,Google Cloud 项目在当前日历月结束时将存储在日志存储分区中的估算日志数据量。

  • 当月的计费存储空间:保留时间超过 30 天且需要计费的日志数据量。

之前的统计信息不包含 _Required 存储桶中的日志。无法排除或停用该存储桶中的日志。

Google Cloud 控制台中的日志路由器页面提供了一些工具,可最大限度地减少将日志存储在日志存储分区中或超出每月配额的存储费用。您可以执行以下操作:

  • 停用在存储桶级别存储日志。
  • 排除将某些日志条目存储在日志存储分区中。

如需了解详情,请参阅管理接收器

管理存储桶

本部分介绍如何使用 Google Cloud CLI 或 Google Cloud 控制台管理日志存储分区。

更新存储桶

如需更新存储桶的属性(例如说明或保留期限),请执行以下操作:

Google Cloud 控制台

如需更新存储桶的属性,请执行以下操作:

  1. 在 Google Cloud 控制台中,转到日志存储页面:

    前往日志存储

    如果您使用搜索栏查找此页面,请选择子标题为 Logging 的结果。

  2. 找到要更新的存储桶,然后点击 更多

  3. 选择修改存储桶

  4. 根据需要修改存储桶。

  5. 点击更新存储桶

gcloud

如需更新存储桶的属性,请运行 gcloud logging buckets update 命令:

gcloud logging buckets update BUCKET_ID --location=LOCATION UPDATED_ATTRIBUTES

例如:

gcloud logging buckets update my-bucket --location=global --description "Updated description"

REST

如需更新存储桶的属性,请在 Logging API 中使用 projects.locations.buckets.patch

升级存储桶以使用 Log Analytics

如需升级现有存储桶以使用 Log Analytics,请遵循以下限制:

  • 日志存储桶是在 Google Cloud 项目级别创建的。
  • 日志存储桶处于解锁状态,除非是 _Required 存储桶。
  • 该存储桶没有待处理的更新。

Google Cloud 控制台

如需升级现有存储桶以使用 Log Analytics,请执行以下操作:

  1. 在 Google Cloud 控制台中,转到日志存储页面:

    前往日志存储

    如果您使用搜索栏查找此页面,请选择子标题为 Logging 的结果。

  2. 找到要升级的存储桶。

  3. 可使用 Log Analytics 列显示升级时,您可以升级日志存储桶以使用 Log Analytics。点击升级

    系统会打开一个对话框。点击确认

gcloud

如需升级日志存储桶以使用 Log Analytics,请运行 gcloud logging buckets update 命令。您必须设置 --enable-analytics 标志,我们还建议您添加 --async 标志:

gcloud logging buckets update BUCKET_ID --location=LOCATION --enable-analytics --async

标志 --async 会强制将命令设为异步。异步方法的返回值是一个 Operation 对象,其中包含有关方法进度的相关信息。方法完成后,Operation 对象会包含状态。如需了解详情,请参阅异步 API 方法

REST

如需升级日志存储桶以使用 Log Analytics,请使用 Cloud Logging API 的 projects.locations.buckets.updateAsync 方法。

请按以下步骤准备方法的参数:

  1. LogBucket.analyticsEnabled 布尔值设置为 true
  2. 对于该命令的查询参数,请使用 updateMask=analyticsEnabled

对异步方法的响应是一个 Operation 对象。此对象包含有关该方法进度的相关信息。方法完成后,Operation 对象会包含状态。如需了解详情,请参阅异步 API 方法

updateAsync 可能需要几分钟才能完成。

如需使用 BigQuery 功能分析日志数据,请升级日志存储桶以使用 Log Analytics,然后创建关联的数据集。采用此配置时,Logging 会存储日志数据,但 BigQuery 可以读取日志数据。

Google Cloud 控制台

如需为现有日志存储桶创建指向 BigQuery 数据集的链接,请执行以下操作:

  1. 在 Google Cloud 控制台中,转到日志存储页面:

    前往日志存储

    如果您使用搜索栏查找此页面,请选择子标题为 Logging 的结果。

  2. 找到日志存储桶,然后验证“Log Analytics 可用”列是否显示“打开”。

    如果此列显示“升级”,则表示日志存储桶尚未升级为使用 Log Analytics。配置 Log Analytics:

    1. 点击升级
    2. 在对话框中点击确认

    升级完成后,请继续执行下一步。

  3. 在日志存储桶上,点击更多图标 ,然后点击修改存储桶

    系统随即会打开修改日志存储桶对话框。

  4. 选择创建关联到此存储桶的新 BigQuery 数据集,然后输入新数据集的名称。

    每个 Google Cloud 项目的数据集名称不得重复。如果您输入现有数据集的名称,则会收到以下错误:Dataset name must be unique in the selected region.

  5. 点击完成,然后点击更新存储桶

    在 Logging 在日志存储空间页面上显示关联的数据集名称后,BigQuery 可能需要几分钟时间才能识别该数据集。

gcloud

如需为升级为使用日志分析的日志存储桶创建关联数据集,请运行 gcloud logging links create 命令:

gcloud logging links create LINK_ID --bucket=BUCKET_ID --location=LOCATION

您提供的 LINK_ID 将用作 BigQuery 数据集的名称,并且此字段的值必须在您的 Google Cloud 项目中具有唯一性。

links create 命令是异步的。异步方法的返回值是一个 Operation 对象,其中包含有关方法进度的相关信息。方法完成后,Operation 对象会包含状态。如需了解详情,请参阅异步 API 方法

links create 命令需要几分钟才能完成。

例如,以下命令会为名为 my-bucket 的日志存储桶创建名为 mylink 的关联数据集:

gcloud logging links create mylink --bucket=my-bucket --location=global

每个 Google Cloud 项目的数据集名称不得重复。如果您尝试创建与现有数据集同名的其他数据集,则会收到以下错误:

BigQuery dataset with name "LINK_ID" already exists.

如果您尝试为未升级为使用 Log Analytics 的日志存储桶创建关联的数据集,系统会报告以下错误:

A link can only be created for an analytics-enabled bucket.

REST

如需为使用 Log Analytics 升级的现有日志存储桶创建关联的 BigQuery 数据集,请调用 Cloud Logging API 的异步 projects.locations.buckets.links.create 方法。

请按以下步骤准备方法的参数:

  1. 构建 create 命令的请求正文。请求正文的格式为 Link 对象。
  2. 对于该命令的查询参数,请使用 linkId=LINK_ID。您提供的 LINK_ID 将用作 BigQuery 数据集的名称,并且此字段的值必须在您的 Google Cloud 项目中具有唯一性。

对异步方法的响应是一个 Operation 对象。此对象包含有关该方法进度的相关信息。方法完成后,Operation 对象会包含状态。如需了解详情,请参阅异步 API 方法

links.create 方法需要几分钟才能完成。

每个 Google Cloud 项目的数据集名称不得重复。如果您尝试创建与现有数据集同名的其他数据集,则会收到以下错误:

BigQuery dataset with name "LINK_ID" already exists.

如果您尝试为未升级为使用 Log Analytics 的日志存储桶创建关联的数据集,系统会报告以下错误:

A link can only be created for an analytics-enabled bucket.

锁定存储桶

当您根据更新锁定存储桶时,您还会锁定存储桶的保留政策。保留政策锁定后,您将无法删除存储桶,除非存储桶中的所有日志条目都已达到存储桶的保留期限。

如需阻止任何人更新或删除日志存储桶,请锁定该存储桶。如需锁定存储桶,请执行以下操作:

Google Cloud 控制台

Google Cloud 控制台不支持锁定日志存储桶。

gcloud

如需锁定您的存储桶,请运行带有 --locked 标志的 gcloud logging buckets update 命令:

gcloud logging buckets update BUCKET_ID --location=LOCATION --locked

例如:

gcloud logging buckets update my-bucket --location=global --locked

REST

如需锁定存储桶的属性,请使用 Logging API 中的 projects.locations.buckets.patch。将 locked 参数设置为 true

列出存储桶

如需列出与 Google Cloud 项目关联的日志存储分区,并查看诸如保留设置等详细信息,请执行以下操作:

Google Cloud 控制台

在 Google Cloud 控制台中,转到日志存储页面:

前往日志存储

如果您使用搜索栏查找此页面,请选择子标题为 Logging 的结果。

名为日志存储分区的表会列出与当前 Google Cloud 项目关联的存储分区。

该表列出了每个日志存储桶的以下特性:

  • 名称:日志存储桶的名称。
  • 说明:存储桶的说明。
  • 保留期限:Cloud Logging 将对存储桶数据进行存储的天数。
  • 区域:用于对存储桶数据的地理位置进行存储。
  • 状态:存储桶处于锁定状态还是解锁状态。

如果某个存储桶正在等待 Cloud Logging 删除,其表条目将使用 警告符号注明。

gcloud

运行 gcloud logging buckets list 命令:

gcloud logging buckets list

您会看到日志存储桶的以下特性:

  • LOCATION:用于存储存储桶数据的区域
  • BUCKET_ID:日志存储桶的名称。
  • RETENTION_DAYS:Cloud Logging 将存储桶数据存储的天数。
  • LIFECYCLE_STATE:指示一个存储桶是否在等待 Cloud Logging 删除
  • LOCKED:存储桶处于锁定状态还是解锁状态。
  • CREATE_TIME:指示存储桶创建时间的时间戳。
  • UPDATE_TIME:指示上次修改存储桶的时间戳。

您还可以仅查看一个存储分区的特性。例如,如需查看 global 区域中 _Default 日志存储桶的详细信息,请运行 gcloud logging buckets describe 命令:

gcloud logging buckets describe _Default --location=global

REST

如需列出与 Google Cloud 项目关联的日志存储分区,请使用 Logging API 中的 projects.locations.buckets.list

查看存储桶的详细信息

如需查看单个日志存储桶的详细信息,请执行以下操作:

Google Cloud 控制台

在 Google Cloud 控制台中,转到日志存储页面:

前往日志存储

如果您使用搜索栏查找此页面,请选择子标题为 Logging 的结果。

在日志存储桶上,点击 更多,然后选择查看存储桶详情

该对话框会列出日志存储桶的以下属性:

  • 名称:日志存储桶的名称。
  • 说明:日志存储桶的说明。
  • 保留期限:Cloud Logging 将对存储桶数据进行存储的天数。
  • 区域:用于对存储桶数据的地理位置进行存储。
  • Log Analytics:指示您的存储桶是否已升级为使用 Log Analytics。
  • BigQuery 分析:指示 BigQuery 数据集是否已与您的存储桶相关联。
  • BigQuery 数据集:提供指向 BigQuery 数据集的链接,该链接会在 BigQuery Studio 页面中打开。系统还会显示启用 BigQuery 关联的日期。

gcloud

运行 gcloud logging buckets describe 命令。

例如,以下命令会报告 _Default 存储桶的详细信息:

gcloud logging buckets describe _Default --location=global

您会看到日志存储桶的以下特性:

  • createTime:指示存储桶创建时间的时间戳。
  • description:日志存储桶的说明。
  • lifecycleState:指示一个存储桶是否在等待 Cloud Logging 删除
  • name:日志存储桶的名称。
  • retentionDays:Cloud Logging 将存储桶数据存储的天数。
  • updateTime:指示上次修改存储桶的时间戳。

REST

如需查看单个日志存储桶的详细信息,请在 Logging API 中使用 projects.locations.buckets.get

删除存储桶

如需删除日志存储桶,请执行以下操作:

Google Cloud 控制台

如需删除日志存储桶,请执行以下操作:

  1. 在 Google Cloud 控制台中,转到日志存储页面:

    前往日志存储

    如果您使用搜索栏查找此页面,请选择子标题为 Logging 的结果。

  2. 找到要删除的存储桶,然后点击更多

  3. 如果“关联到 BigQuery 中的数据集”列显示链接,请删除关联的 BigQuery 数据集:

    1. 点击修改存储桶

    2. 清除创建关联到此存储桶的新 BigQuery 数据集,点击完成,然后点击更新存储桶

      返回日志存储页面后,为要删除的存储桶点击 更多,然后继续执行后续步骤。

  4. 选择删除存储分区

  5. 在确认面板上,点击删除

  6. 日志存储页面上,会有一个指示符显示该存储桶正在等待删除。该存储桶(包括其中的所有日志)将在 7 天后删除。

gcloud

如需删除日志存储桶,请运行 gcloud logging buckets delete 命令:

gcloud logging buckets delete BUCKET_ID --location=LOCATION

如果日志存储桶已关联 BigQuery 数据集,则无法删除该日志存储桶:

REST

如需删除存储桶,请在 Logging API 中使用 projects.locations.buckets.delete

如果日志存储桶有关联的 BigQuery 数据集,则删除该存储桶会出错。您必须先删除关联的数据集,然后才能删除日志存储桶:

已删除的存储桶会以待处理状态保留 7 天,在此期间 Logging 会继续将日志路由到该存储桶。您可以通过以下方法停止将日志路由到已删除的存储桶:删除将该存储桶作为目标位置的日志接收器,或者修改这些接收器的过滤条件。

您无法创建与处于待处理状态的已删除存储桶同名的日志存储桶。

恢复已删除的存储桶

您可以恢复或取消删除处于待删除状态的日志存储桶。如需恢复日志存储桶,请执行以下操作:

Google Cloud 控制台

如需恢复处于待删除状态的日志存储桶,请执行以下操作:

  1. 在 Google Cloud 控制台中,转到日志存储页面:

    前往日志存储

    如果您使用搜索栏查找此页面,请选择子标题为 Logging 的结果。

  2. 找到要恢复的存储桶,然后点击 更多,然后选择恢复已删除的存储桶

  3. 在确认面板上,点击恢复

  4. 日志存储页面上,待删除指示器会从您的日志存储桶移除。

gcloud

如需恢复处于待删除状态的日志存储桶,请运行 gcloud logging buckets undelete 命令:

gcloud logging buckets undelete BUCKET_ID --location=LOCATION

REST

如需恢复处于待删除状态的存储桶,请在 Logging API 中使用 projects.locations.buckets.undelete

针对日志存储分区中存储的每月日志字节数发出提醒

如需创建提醒政策,请在 Google Cloud 控制台中的日志存储页面上,点击 创建使用情况提醒。此按钮会在 Monitoring 中打开创建提醒政策页面,并在“指标类型”字段中填充 logging.googleapis.com/billing/bytes_ingested

如需创建一项提醒政策,并在写入日志存储分区的日志字节数超过用户为 Cloud Logging 定义的限制时触发,请使用以下设置。

新建条件
字段

资源和指标 资源菜单中,选择全局
指标类别菜单中,选择基于日志的指标
指标菜单中,选择每月提取的日志字节数
过滤 无。
跨时间序列
时间序列聚合
sum
滚动窗口 60 m
滚动窗口函数 max
配置提醒触发器
字段

条件类型 Threshold
提醒触发器 Any time series violates
阈值位置 Above threshold
阈值 可接受的值由您决定。
重新测试窗口 可接受的最小值是 30 分钟。

如需详细了解提醒政策,请参阅提醒概览

写入存储桶

您无法直接将日志写入日志存储桶,而是要将日志写入 Google Cloud 资源:Google Cloud 项目、文件夹或组织。然后,父级资源中的接收器会将日志路由到目标位置,包括日志存储桶。当日志与接收器的过滤条件匹配并且接收器有权将日志路由到日志存储桶时,接收器会将日志路由到日志存储桶目标位置。

从存储桶读取

每个日志存储桶都包含一组日志视图。如需从日志存储桶读取日志,您需要能够访问日志存储桶中的日志视图。借助日志视图,您可以向用户授予对日志存储桶中部分日志的访问权限。如需了解如何配置日志视图以及如何授予对特定日志视图的访问权限,请参阅在日志存储桶上配置日志视图

如需从日志存储桶读取日志,请执行以下操作:

Google Cloud 控制台

  1. 在 Google Cloud 控制台中,转到 Logs Explorer 页面。

    前往 Logs Explorer

    如果您使用搜索栏查找此页面,请选择子标题为 Logging 的结果。

  2. 如需自定义日志浏览器中显示的日志,请点击优化范围,然后选择一个选项。例如,您可以查看存储在项目中或按日志视图的日志。

  3. 点击应用查询结果窗格会重新加载,其中包含与您选择的选项匹配的日志。

如需了解详情,请参阅日志浏览器概览:优化范围

gcloud

如需从日志存储桶中读取日志,请使用 gcloud logging read 命令并添加 LOG_FILTER 以选择数据:

gcloud logging read LOG_FILTER --bucket=BUCKET_ID --location=LOCATION --view=VIEW_ID

REST

如需从日志存储桶读取日志,请使用 entries.list 方法。设置 resourceNames 以指定相应的存储桶和日志视图,并设置 filter 以选择数据。

如需详细了解过滤语法,请参阅 Logging 查询语言

配置自定义保留

创建日志存储桶时,您可以选择自定义 Cloud Logging 存储存储桶日志的时间段。您可以为任何用户定义的日志存储桶以及 _Default 日志存储桶配置保留期限。

如果您缩短存储桶的保留期限,则系统会提供 7 天的宽限期,在此期间系统不会删除已过期日志。您无法查询或查看这些已过期日志,但在这 7 天内,您可以通过延长存储桶的保留期限来恢复完整访问权限。宽限期内存储的日志会计入保留费用。

如需更新日志存储桶的保留期限,请执行以下操作:

Google Cloud 控制台

如需更新日志存储桶的保留期限,请执行以下操作:

  1. 在 Google Cloud 控制台中,转到日志存储页面:

    前往日志存储

    如果您使用搜索栏查找此页面,请选择子标题为 Logging 的结果。

  2. 找到要更新的存储桶,然后点击 更多,然后选择修改存储桶

  3. 保留字段中,输入您希望 Cloud Logging 保留日志的天数(介于 1 天到 3650 天之间)。

  4. 点击更新存储桶。新的保留时长会显示在日志存储桶列表中。

gcloud

如需更新日志存储桶的保留期限,请在为 RETENTION_DAYS 设置值后运行 gcloud logging buckets update 命令:

gcloud logging buckets update BUCKET_ID  --location=LOCATION --retention-days=RETENTION_DAYS

例如,如需将 global 位置的 _Default 存储桶中的日志保留一年,您的命令将如下所示:

gcloud logging buckets update _Default --location=global --retention-days=365

如果您延长存储桶的保留期限,则保留规则会在以后应用,并且不会追溯应用。日志在适用的保留期限结束后无法恢复。

异步 API 方法

projects.locations.buckets.createAsync 等异步方法的响应是一个 Operation 对象。

调用异步 API 方法的应用应轮询 operation.get 端点,直到 Operation.done 字段的值为 true

  • donefalse 时,表示操作正在进行中。

    如需刷新状态信息,请向 operation.get 端点发送 GET 请求。

  • donetrue 时,表示操作已完成且已设置 errorresponse 字段:

    • error:设置此标志时,表示异步操作失败。此字段的值是一个 Status 对象,其中包含 gRPC 错误代码和错误消息。
    • response:如果设置此标志,则表示异步操作成功完成,并且值将反映结果。

如需使用 Google Cloud CLI 轮询异步命令,请运行以下命令:

gcloud logging operations describe OPERATION_ID --location=LOCATION --project=PROJECT_ID

如需了解详情,请参阅 gcloud logging operations describe

排查常见问题

如果您在使用日志存储桶时遇到问题,请参阅以下问题排查步骤以及常见问题解答。

为什么我无法删除此存储桶?

如果要尝试删除存储桶,请执行以下操作:

  • 确保您拥有删除存储桶存储桶的适当权限。如需查看所需的权限列表,请参阅使用 IAM 进行访问权限控制

  • 通过列出存储桶的特性来确定存储桶是否已锁定。如果存储桶已被锁定,请检查存储桶的保留期限。在存储桶中的所有日志都达到存储桶的保留期限之前,您无法删除锁定的存储桶。

  • 验证日志存储桶是否未关联 BigQuery 数据集。您无法删除已关联数据集的日志存储桶。

    在具有关联数据集的日志存储桶上运行 delete 命令时,系统会显示以下错误:

    FAILED_PRECONDITION: This bucket is used for advanced analytics and has an active link. The link must be deleted first before deleting the bucket
    

    如需列出与日志存储桶关联的链接,请运行 gcloud logging links list 命令或运行 projects.locations.buckets.links.list API 方法。

哪些服务账号会将日志路由到我的存储桶?

如需确定是否有任何服务账号具有将日志路由到存储桶的 IAM 权限,请执行以下操作:

  1. 在 Google Cloud 控制台中,进入 IAM 页面:

    前往 IAM

    如果您使用搜索栏查找此页面,请选择子标题为 IAM 和管理的结果。

  2. Permissions 标签页中,按角色进行查看。您会看到一个表格,其中列出了与您的 Google Cloud 项目关联的所有 IAM 角色和主账号。

  3. 在该表的过滤条件文本框中,输入 Logs Bucket Writer

    您会看到具有 Logs Bucket Writer 角色的所有主账号。如果主账号是服务账号,则其 ID 包含字符串 gserviceaccount.com

  4. 可选:如果您要移除能够将日志路由到您的 Google Cloud 项目的服务账号,请选中该服务账号对应的复选框,然后点击移除

为什么即使我从 _Default 接收器中排除了 Google Cloud 项目的日志,但我还是会看到它们?

您正在查看集中式 Google Cloud 项目的日志存储桶中的日志,其中汇总了整个组织中的日志。

如果您使用日志浏览器访问这些日志,并看到已从 _Default 接收器中排除的日志,则您的视图可能已设为 Google Cloud 项目级别。

如需解决此问题,请在优化范围菜单中选择日志视图,然后选择与 Google Cloud 项目中的 _Default 存储桶关联的日志视图。您应该不会再看到已排除的日志。

后续步骤

如需了解日志存储桶 API 方法,请参阅 LogBucket 参考文档。

如果您管理的是组织或文件夹,则可以指定子资源的 _Default_Required 日志分桶的位置。您还可以配置日志分桶是否使用 CMEK,以及 _Default 日志接收器的行为。如需了解详情,请参阅为组织和文件夹配置默认设置

如需了解如何使用日志存储桶解决常见用例,请参阅以下主题: