收集 Cloud 安全 Web 代理日志

支持的平台：

本文档介绍了如何使用 Cloud Storage 将 Cloud 安全 Web 代理导出并提取到 Google 安全运营中。解析器会从 JSON 日志中提取字段，并将其转换为统一数据模型 (UDM)。它会初始化 UDM 字段、解析 JSON 载荷、提取网络信息、安全详细信息、资源属性，并根据是否存在正文和目标信息来设置事件类型。

准备工作

  • 确保您拥有 Google SecOps 实例。
  • 确保 Cloud 安全 Web 代理在您的 Google Cloud 环境中处于启用和配置状态。
  • 确保您拥有对 Google Cloud 的超级用户访问权限，以及访问安全 Web 代理日志的适当权限。

创建 Cloud Storage 存储桶

  1. 登录 Google Cloud 控制台。

  2. 前往 Cloud Storage 存储分区页面。

    进入“存储桶”

  3. 点击创建。

  4. 在创建存储桶页面上，输入您的存储桶信息。完成以下各步骤后，点击继续以进入下一步：

    1. 在开始使用部分中，执行以下操作：

      1. 输入符合存储分区名称要求的唯一名称；例如 gcp-swp-logs。

      2. 如需启用分层命名空间，请点击展开箭头以展开优化文件导向型和数据密集型工作负载部分，然后选择在此存储分区上启用分层命名空间。

      3. 如需添加存储分区标签，请点击展开箭头以展开标签部分。

      4. 点击添加标签，然后为标签指定键和值。

    2. 在选择数据存储位置部分中，执行以下操作：

      1. 选择位置类型。

      2. 使用位置类型菜单选择一个位置，用于永久存储存储分区中的对象数据。

      3. 如需设置跨存储分区复制，请展开设置跨存储分区复制部分。

    3. 在为数据选择一个存储类别部分中，为存储分区选择默认存储类别，或者选择 Autoclass 对存储分区数据进行自动存储类别管理。

    4. 在选择如何控制对对象的访问权限部分中，选择否以强制执行禁止公开访问，然后为存储分区对象选择访问权限控制模型。

    5. 在选择如何保护对象数据部分中，执行以下操作：

      1. 在数据保护下，选择您要为存储分区设置的任何选项。
      2. 如需选择对象数据的加密方式，请点击标有数据加密的展开箭头，然后选择数据加密方法。

  5. 点击创建。

配置 Google Cloud 安全 Web 代理日志导出

  1. 登录 Google Cloud 控制台。
  2. 依次前往日志记录 > 日志路由器。
  3. 点击创建接收器。

  4. 提供以下配置参数：

    • 接收器名称：输入一个有意义的名称，例如 SWP-Export-Sink。
    • 接收器目标位置：选择 Cloud Storage 存储，然后输入存储分区的 URI；例如 gs://gcp-swp-logs。
    • 日志过滤器：
    logName="projects/<your-project-id>/logs/networkservices.googleapis.com/gateway_requests"

  5. 点击创建。

配置 Cloud Storage 权限

  1. 依次前往 IAM 和管理 > IAM。
  2. 找到 Cloud Logging 服务账号。
  3. 向存储分区授予 roles/storage.admin。

在 Google SecOps 中配置 Feed 以提取 Google Cloud 安全 Web 代理日志

  1. 依次前往 SIEM 设置 > Feed。
  2. 点击新增。
  3. 在Feed 名称字段中，输入 Feed 的名称；例如 Google Cloud SWP 日志。
  4. 选择 Google Cloud Storage 作为来源类型。
  5. 选择 GCP 安全 Web 代理作为日志类型。
  6. 点击 Chronicle 服务账号字段旁边的获取服务账号。
  7. 点击下一步。

  8. 为以下输入参数指定值：

    • 存储分区 URI：Cloud Storage 存储分区网址；例如 gs://gcp-swp-logs。
    • URI 类型：选择包含子目录的目录。

    • 来源删除选项：根据您的偏好选择删除选项。

    • 资源命名空间：资源命名空间。

    • 提取标签：应用于此 Feed 中的事件的标签。

  9. 点击下一步。

  10. 在最终确定界面中查看新的 Feed 配置，然后点击提交。

UDM 映射表

日志字段 UDM 映射 逻辑
httpRequest.latency additional.fields[].key：HTTPRequest Latency
additional.fields[].value.string_value：0.124462s		 直接从原始日志字段映射。
httpRequest.protocol network.application_protocol：HTTP
network.application_protocol_version：2		 系统使用 Grok 模式从 httpRequest.protocol 字段中提取协议和版本。
httpRequest.remoteIp target.asset.ip：1.1.0.1
target.ip：1.1.0.1		 系统会使用 Grok 模式从 httpRequest.remoteIp 字段中提取 IP 地址。
httpRequest.requestMethod network.http.method：GET 直接从原始日志字段映射。
httpRequest.requestSize network.sent_bytes：144 直接从原始日志字段映射并转换为整数。
httpRequest.requestUrl target.url：https://github.com/tempuslabs/tempusutils/info/refs?service=git-upload-pack 直接从原始日志字段映射。
httpRequest.responseSize network.received_bytes：225 直接从原始日志字段映射并转换为整数。
httpRequest.serverIp principal.asset.ip：1.8.1.4
principal.ip：1.8.1.4		 系统使用 Grok 模式从 httpRequest.serverIp 字段中提取 IP 地址。
httpRequest.status network.http.response_code：401 直接从原始日志字段映射并转换为整数。
httpRequest.userAgent network.http.user_agent: git/2.34.1
network.http.parsed_user_agent: {
family: USER_DEFINED,
device: git,
device_version: 2.34.1
}		 直接从原始日志字段映射。parsed_user_agent 字段是通过解析 httpRequest.userAgent 字段派生的。
insertId metadata.product_log_id：1yh8wczer5o8n 直接从原始日志字段映射。
jsonPayload.@type additional.fields[].key：Log Type
additional.fields[].value.string_value：type.googleapis.com/google.cloud.loadbalancing.type.LoadBalancerLogEntry		 直接从原始日志字段映射。
jsonPayload.enforcedGatewaySecurityPolicy.hostname target.asset.hostname：github.com
target.hostname：github.com		 直接从原始日志字段映射。
jsonPayload.enforcedGatewaySecurityPolicy.matchedRules[].action security_result.action：ALLOW
security_result.action_details：ALLOWED		 security_result.action 是根据 jsonPayload.enforcedGatewaySecurityPolicy.matchedRules[].action 的值派生的。如果操作为 ALLOWED，则 UDM 字段设置为 ALLOW。如果操作为 DENIED，则 UDM 字段设置为 BLOCK。
jsonPayload.enforcedGatewaySecurityPolicy.matchedRules[].name security_result.rule_name：projects/671807354785/locations/us-central1/gatewaySecurityPolicies/github-access-gateway-security-policy-5cec30cd/rules/github-access-gateway-security-policy-rule-5cec30cd 直接从原始日志字段映射。
jsonPayload.enforcedGatewaySecurityPolicy.requestWasTlsIntercepted security_result.detection_fields[].key：requestWasTlsIntercepted
security_result.detection_fields[].value：true		 直接从原始日志字段映射。
logName additional.fields[].key：Log Name
additional.fields[].value.string_value：projects/rws-w6uza3pn5jzzh6z3hc3d/logs/networkservices.googleapis.com%2Fgateway_requests		 直接从原始日志字段映射。
receiveTimestamp metadata.collected_timestamp: {
seconds: 1710189647,
nanos: 661101224
}		 使用 RFC 3339 日期格式从原始日志字段解析。
resource.labels.gateway_name security_result.detection_fields[].key：gateway-name
security_result.detection_fields[].value：github-access-gateway-5cec30cd		 直接从原始日志字段映射。
resource.labels.gateway_type security_result.detection_fields[].key：gateway-type
security_result.detection_fields[].value：SECURE_WEB_GATEWAY		 直接从原始日志字段映射。
resource.labels.location target.resource.attribute.cloud.availability_zone：us-central1 直接从原始日志字段映射。
resource.labels.network_name target.resource.attribute.labels[].key：rc_network_name
target.resource.attribute.labels[].value：projects/rws-w6uza3pn5jzzh6z3hc3d/global/networks/rws-tr-pilot-workspace		 直接从原始日志字段映射。
resource.type target.resource.attribute.labels[].key：Resource Type
target.resource.attribute.labels[].value：networkservices.googleapis.com/Gateway		 直接从原始日志字段映射。
severity security_result.severity：MEDIUM 从原始日志字段映射而来。该值会转换为 UDM 严重程度级别。在本例中，WARNING 映射到 MEDIUM。
timestamp metadata.event_timestamp: {
seconds: 1710189639,
nanos: 952848000
}		 使用 RFC 3339 日期格式从原始日志字段解析。
(Parser Logic) metadata.event_type：NETWORK_HTTP 由解析器逻辑根据 has_principal、has_target 的存在情况以及与 http 匹配的协议确定。
(Parser Logic) metadata.log_type：GCP_SWP 根据商品硬编码的值。

变化

2024-04-15

  • 新创建的解析器。

需要更多帮助？向社区成员和 Google SecOps 专业人士寻求解答。