외부 패스 스루 네트워크 부하 분산기 로깅 및 모니터링

이 문서에서는 외부 패스 스루 네트워크 부하 분산기에 Cloud Logging 및 Cloud Monitoring을 구성하고 사용하는 방법을 보여줍니다.

로깅

로그는 외부 패스 스루 네트워크 부하 분산기 문제를 해결하고 모니터링하는 데 유용한 정보를 제공합니다. 로그는 연결별로 집계되고 거의 실시간으로 내보내집니다. 로그는 인그레스 및 이그레스 트래픽 모두에 대한 각 부하 분산 인스턴스의 TCP, UDP, ESP, GRE, ICMP, ICMPv6 흐름에 대해 생성됩니다. 로그 항목에 제공된 필드에 대한 자세한 내용은 로그 필드를 참조하세요.

로그 사용에 대한 추가 요금은 발생하지 않습니다. 로그 가져오기 방법에 따라 Cloud Logging, BigQuery, Pub/Sub의 표준 가격 책정이 적용됩니다. 로그를 사용 설정해도 부하 분산기의 성능은 영향을 받지 않습니다.

로깅은 다음과 같은 이점을 제공합니다.

• 외부 패스 스루 네트워크 부하 분산기 트래픽 모니터링 연결별 로깅을 통해 각 연결이 제공 백엔드로 라우팅되는 방식을 파악할 수 있습니다.

• 네트워크 문제 해결. 문제 해결을 위해 외부 패스 스루 네트워크 부하 분산기 로그를 활용할 수 있습니다. 자세한 내용은 외부 패스 스루 네트워크 부하 분산기 문제 해결을 참고하세요.

VM 흐름에 대한 외부 클라이언트의 샘플 로그 형식

다음 다이어그램은 외부 클라이언트(203.0.113.7), 외부 패스 스루 네트워크 부하 분산기(198.51.100.99), 백엔드 인스턴스(10.240.0.2)의 인바운드 및 아웃바운드 트래픽을 보여줍니다.

클라이언트에서 백엔드 인스턴스로의 연결에 대한 외부 패스 스루 네트워크 부하 분산기 로그의 형식은 다음과 같습니다.

• connection.clientIp: 203.0.113.7
• connection.serverIp: 198.51.100.99
• bytesSent: 1256
• bytesReceived: 4521

로그 샘플링 및 수집

Google Cloud는 부하 분산기 백엔드 VM에서 나가고 들어오는 패킷을 샘플링합니다. 이러한 샘플링된 패킷은 처리되어 로그를 생성합니다.

모든 패킷이 샘플링되는 것은 아닙니다. Google Cloud는 물리적 호스트의 트래픽 양에 따라 패킷의 가변 하위 집합을 샘플링합니다. 가능한 가장 낮은 샘플링 레이트는 1,024개의 패킷 중 하나입니다. 샘플링 레이트는 Google Cloud에서 동적으로 제어합니다. 샘플링 레이트는 조정할 수 없습니다.

패킷 샘플링은 다음과 같은 방식으로 방화벽 규칙과 상호 작용합니다.

• 패킷은 이그레스 방화벽 규칙이 적용되기 전에 샘플링됩니다.
• 패킷은 인그레스 방화벽 규칙이 적용된 이후에 샘플링됩니다.

패킷 샘플링 후 Google Cloud는 다음 절차에 따라 샘플링된 패킷을 처리합니다.

1. 집계: 샘플링된 패킷은 5초 간격으로 집계되어 단일 흐름 항목을 생성합니다.

2. 구성 가능한(보조) 로그 샘플링: 흐름을 샘플링하는 두 번째 샘플링 프로세스입니다. logConfig.sampleRate 파라미터에 따라 로그 항목으로 표시되는 흐름 항목의 비율을 제어합니다. logConfig.sampleRate가 1.0(100%)이면 샘플링된 모든 패킷이 처리됨을 의미합니다.

3. 로그 작성: 로그 항목은 Cloud Logging에 기록됩니다.

선택사항 입력란

로그 레코드에는 필수 필드와 선택적 필드가 포함됩니다. 로그 필드 섹션에는 선택적 필드와 필수 필드가 나열됩니다. 모든 필수 필드는 항상 포함됩니다. 어떤 필드를 선택적 필드로 유지할지 맞춤 설정할 수 있습니다.

• 모든 선택적 필드 포함을 선택하면 로그 레코드 형식의 모든 선택적 필드가 흐름 로그에 포함됩니다. 새 선택적 필드가 레코드 형식에 추가되면 흐름 로그에 새 필드가 자동으로 포함됩니다.

• 모든 선택적 필드 해제를 선택하면 모든 선택적 필드가 생략됩니다.

• 커스텀을 선택하면, serverInstance 같이 상위 필드로 포함하거나 serverInstance.vm 같이 전체 이름으로 포함할 선택적 필드를 지정할 수 있습니다.

새 선택적 필드가 레코드 형식에 추가되면 포함하도록 지정한 상위 필드 내의 새 필드가 아닌 경우 로그에 이러한 필드가 포함되지 않습니다.

상위 필드 내의 레코드 형식에 새 선택적 필드가 추가될 때 상위 필드를 사용하여 커스텀 선택적 필드를 지정할 경우 로그에 새 필드가 자동으로 포함됩니다. 예를 들어 optionalFieldA를 포함하도록 선택하면 이름이 optionalFieldA.subField1인 로그에 추가된 새 필드가 자동으로 포함됩니다.

선택적 필드를 맞춤설정하는 방법은 새 백엔드 서비스에 로깅 사용 설정을 참조하세요.

응답 패킷 소스 IP 주소 요구사항

로깅은 해당 패킷의 소스 IP 주소가 부하 분산기의 전달 규칙 IP 주소와 일치하는 경우에만 백엔드 VM에서 응답 패킷을 샘플링합니다. TCP 연결의 경우 응답 패킷에 항상 요청 패킷의 대상과 일치하는 소스가 있어야 합니다. 그러나 다른 프로토콜의 경우 응답 패킷이 다른 소스 IP 주소를 사용할 수 있습니다. 자세한 내용은 요청 및 반환 패킷의 IP 주소를 참조하세요.

외부 패스 스루 네트워크 부하 분산기에 사용되는 패킷 샘플링 프로세스는 응답 패킷에 외부 패스 스루 네트워크 부하 분산기에 대한 전달 규칙의 IP 주소와 일치하지 않는 소스가 있는 경우 백엔드 VM의 응답 패킷을 생략합니다.

새 백엔드 서비스에 로깅 사용 설정

    gcloud compute backend-services create BACKEND_SERVICE \
      --region=REGION \
      --enable-logging \
      --logging-sample-rate=SAMPLE_RATE \
      --logging-optional=LOGGING_OPTIONAL \
      --logging-optional-fields=OPTIONAL_FIELDS
    

    POST https://compute.googleapis.com/compute/v1/projects/`PROJECT_ID`/regions/`REGION`/backendServices
    

    {
    "name": "BACKEND_SERVICE",
    "loadBalancingScheme": "EXTERNAL",
    "logConfig": {
       "enable": true,
       "sampleRate": SAMPLE_RATE
      }
    }
    

    {
    "name": "BACKEND_SERVICE",
    "loadBalancingScheme": "EXTERNAL",
    "logConfig": {
       "enable": true,
       "sampleRate": SAMPLE_RATE,
       "optionalMode": "INCLUDE_ALL_OPTIONAL"
      }
    }
    

    {
    "name": "BACKEND_SERVICE",
    "loadBalancingScheme": "EXTERNAL",
    "logConfig": {
       "enable": true,
       "sampleRate": SAMPLE_RATE,
       "optionalMode": "CUSTOM",
       "optionalFields": ["field1","field2",...]
      }
    }
    

기존 백엔드 서비스에 로깅 사용 설정

    gcloud compute backend-services update BACKEND_SERVICE \
      --region=REGION \
      --enable-logging \
      --logging-sample-rate=SAMPLE_RATE \
      --logging-optional=LOGGING_OPTIONAL \
      --logging-optional-fields=OPTIONAL_FIELDS
    

      PATCH https://compute.googleapis.com/compute/v1/projects/`PROJECT_ID`/regions/`REGION`/backendServices/`BACKEND_SERVICE`
     

     "logConfig": {
       "enable": true,
       "sampleRate": SAMPLE_RATE,
       "optionalMode": "EXCLUDE_ALL_OPTIONAL"
      }
     

    {
    "name": "BACKEND_SERVICE",
    "loadBalancingScheme": "EXTERNAL",
    "logConfig": {
       "enable": true,
       "sampleRate": SAMPLE_RATE,
       "optionalMode": "INCLUDE_ALL_OPTIONAL"
      }
    }
    

    {
    "name": "BACKEND_SERVICE",
    "loadBalancingScheme": "EXTERNAL",
    "logConfig": {
       "enable": true,
       "sampleRate": SAMPLE_RATE,
       "optionalMode": "CUSTOM",
       "optionalFields": ["field1","field2",...]
      }
    }
    

기존 백엔드 서비스에 로깅 사용 중지

gcloud compute backend-services update BACKEND_SERVICE \
  --region=REGION \
  --no-enable-logging

 PATCH https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/backendServices/BACKEND_SERVICE

 {
 "logConfig": {
   "enable": false
  }
 }
 

로그 보기

로그가 Cloud Logging에 수집되고 로그 라우터 싱크를 통해 제외되지 않으면 Cloud Logging API 및 Google Cloud CLI를 사용하여 로그를 읽을 수 있습니다.

모든 외부 패스 스루 네트워크 부하 분산기 로그를 보려면 다음 안내를 따르세요.

특정 백엔드 서비스 로그 보기

특정 백엔드 서비스의 외부 패스 스루 네트워크 부하 분산기 로그를 보려면 다음 안내를 따르세요.

백엔드 인스턴스 그룹 로그 보기

특정 백엔드 인스턴스 그룹의 외부 패스 스루 네트워크 부하 분산기 로그를 보려면 다음 안내를 따르세요.

로그 필드

로그 레코드에는 모든 로그 레코드의 기본 필드인 필수 필드와 추가 정보를 추가하는 선택적 필드가 있습니다. 선택적 필드를 생략하여 스토리지 비용을 절감할 수 있습니다.

일부 로그 필드는 한 필드에 두 가지 이상의 데이터를 포함하는 다중 필드 형식입니다. 예를 들어 connection 필드는 IpConnection 형식이며 소스 및 대상 IP 주소, 포트, 프로토콜이 단일 필드에 포함됩니다. 이러한 다중 필드 형식의 필드는 다음 레코드 형식 표에 설명되어 있습니다.

모니터링 리소스는 loadbalancing.googleapis.com/ExternalNetworkLoadBalancerRule입니다.

IpConnection 필드 형식

InstanceDetails 필드 형식

GeographicDetails 필드 형식

GkeDetails 필드 형식

ClusterDetails 필드 형식

PodDetails 필드 형식

ServiceDetails 필드 형식

NetworkTierDetails 필드 형식

모니터링

외부 패스 스루 네트워크 부하 분산기는 Cloud Monitoring에 주요 측정항목을 내보냅니다.

모니터링 측정항목은 다음과 같은 목적으로 사용할 수 있습니다.

• 부하 분산기의 구성, 사용, 성능 평가
• 문제해결
• 리소스 사용률 및 사용자 환경 개선

Monitoring의 사전 정의된 대시보드 외에도 Monitoring API를 통해 커스텀 대시보드를 만들고, 알림을 설정하고, 측정항목을 쿼리할 수 있습니다.

Monitoring 대시보드 보기

Monitoring 커스텀 대시보드 정의

외부 패스 스루 네트워크 부하 분산기 측정항목을 통해 커스텀 Monitoring 대시보드를 만들 수 있습니다.

수집되는 측정항목 목록은 측정항목 및 리소스 유형을 참조하세요. 결과를 필터링하는 데 사용할 수 있는 속성 목록은 필터를 참조하세요.

Monitoring 알림 정의

다양한 외부 패스 스루 네트워크 부하 분산기 측정항목을 통해 Monitoring 알림을 정의할 수 있습니다.

측정항목 보고 빈도 및 보관

외부 패스 스루 네트워크 부하 분산기의 측정항목은 1분 단위로 일괄적으로 Monitoring으로 내보내집니다. 모니터링 데이터는 6주간 보관됩니다. 측정항목은 샘플링된 트래픽을 기반으로 합니다. 샘플링 레이트는 동적이며 조정할 수 없습니다. 대시보드는 1시간(1H), 6시간(6H), 1일(1D), 1주(1W), 6주(6W)의 기본 주기로 데이터 분석을 제공합니다. 6주에서 60초 사이의 주기로 수동으로 분석을 요청할 수도 있습니다.

측정항목 및 리소스 유형

측정항목

다음은 Monitoring에 보고되는 외부 패스 스루 네트워크 부하 분산기의 측정항목입니다. API 요청을 만들 때 이러한 측정항목 이름을 사용할 수 있습니다.

리소스 유형

외부 패스 스루 네트워크 부하 분산기는 다음과 같은 리소스 유형을 사용합니다.

• tcp_lb_rule
• udp_lb_rule
• loadbalancing.googleapis.com/ExternalNetworkLoadBalancerRule

외부 패스 스루 네트워크 부하 분산기는 TCP, UDP, ESP, GRE, ICMP, ICMPv6 트래픽을 지원할 수 있습니다.

리소스 유형을 tcp_lb_rule 또는 udp_lb_rule로 지정하여 모니터링 데이터를 TCP 또는 UDP 프로토콜로 제한할 수 있습니다. 리소스 유형을 loadbalancing.googleapis.com/ExternalNetworkLoadBalancerRule로 지정하면 TCP, UDP, ESP, GRE, ICMP, ICMPv6 프로토콜을 포함하여 지원되는 모든 프로토콜을 모니터링할 수 있습니다.

필터

측정항목은 외부 패스 스루 네트워크 부하 분산기별로 집계됩니다. 집계된 측정항목은 다음 측정기준으로 필터링할 수 있습니다.

tcp_lb_rule 또는 udp_lb_rule의 리소스 라벨

쿼리를 리소스로 제한할 수 있습니다. 이러한 값을 기준으로 결과를 그룹화할 수도 있습니다.

resource.label.<var>LABEL_KEY</var>:

loadbalancing.googleapis.com/ExternalNetworkLoadBalancerRule의 리소스 라벨

쿼리를 리소스로 제한할 수 있습니다. 이러한 값을 기준으로 결과를 그룹화할 수도 있습니다.

resource.label.<var>LABEL_KEY</var>:

측정항목 라벨

측정항목 라벨로 쿼리를 제한할 수 있습니다. 이러한 값을 기준으로 결과를 그룹화할 수도 있습니다.

metric.label.<var>LABEL_KEY</var>:

Monitoring API 요청

Monitoring API의 v3 projects.timeSeries.list 요청을 사용하여 외부 패스 스루 네트워크 부하 분산기 측정항목을 통해 임의의 쿼리를 구성할 수 있습니다. 다양한 정의의 정확한 구조는 일반 모니터링 필터 시맨틱스를 따릅니다.

API 요청 예시

• 2019년 7월 1일 오후 12:00~12:02(UTC)에 1m 집계를 사용해 프로젝트의 모든 외부 패스 스루 네트워크 부하 분산기에서 전송된 모든 바이트를 가져옵니다.

  timeSeries.list 파라미터:

  • name: projects/PROJECT_ID
  • Filter: resource.type = "tcp_lb_rule" 및 metric.name="loadbalancing.googleapis.com/l3/external/egress_bytes_count"
  • interval.start_time: 2019-07-01T12:00:00Z
  • interval.end_time: 2019-07-01T12:02:00Z
  • aggregation.alignmentPeriod: 60s
  • aggregation.crossSeriesReducer: REDUCE_SUM
  • aggregation.perSeriesAligner: ALIGN_SUM

• 2019년 7월 1일 오후 12:19~12:20(UTC)에 프로젝트의 모든 외부 패스 스루 네트워크 부하 분산기를 통해 측정한 RTT 측정치의 중앙값을 클라이언트 국가별로 나눠서 가져옵니다.

  timeSeries.list 파라미터:

  • name: projects/PROJECT_ID
  • Filter: resource.type = "tcp_lb_rule" 및 metric.name="loadbalancing.googleapis.com/l3/external/rtt_latencies"
  • interval.start_time: 2019-07-01T12:19:00Z
  • interval.end_time: 2019-07-01T12:20:00Z
  • aggregation.alignmentPeriod: 60s
  • aggregation.crossSeriesReducer: REDUCE_SUM
  • aggregation.groupByFields: metric.label.client_country
  • aggregation.perSeriesAligner: ALIGN_PERCENTILE_50

• 2019년 7월 1일 오후 12:19~12:20(UTC)에 특정 외부 패스 스루 네트워크 부하 분산기에서 전송한 총 바이트를 엔드포인트 영역 및 클라이언트 대륙별로 나누어 가져옵니다.

  timeSeries.list 파라미터:

  • name: projects/PROJECT_ID
  • Filter: resource.type = "tcp_lb_rule", resource.label.load_balancer_name = "netlb-bs-1", metric.name="loadbalancing.googleapis.com/l3/external/ingress_bytes_count"
  • interval.start_time: 2019-07-01T12:19:00Z
  • interval.end_time: 2017-07-01T12:20:00Z
  • aggregation.alignmentPeriod: 60s
  • aggregation.crossSeriesReducer: REDUCE_SUM
  • aggregation.groupByFields: metric.label.client_continent
  • aggregation.groupByFields: resource.label.endpoint_zone
  • aggregation.perSeriesAligner: ALIGN_SUM

다음 단계

• 외부 패스 스루 네트워크 부하 분산기에 대한 개념 정보 읽어보기
• 외부 패스 스루 네트워크 부하 분산기 설정
• Monitoring 측정항목, 시계열, 리소스에 대해 읽어보기
• 전달 규칙에 대해 알아보기
• 로깅 문제 해결에 관해 알아보기