Apache Flink

La integración de Apache Flink recopila registros de clientes, jobmanager y taskmanager, y los analiza en una carga útil de JSON. El resultado incluye campos para la fuente, el nivel y el mensaje.

Para obtener más información sobre Flink, consulta la documentación de Apache Flink.

Requisitos previos

Para recopilar la telemetría de Flink, debes instalar el Agente de operaciones:

• Para las métricas, instala la versión 2.18.1 o una posterior.
• Para los registros, instala la versión 2.17.0 o una posterior.

Esta integración es compatible con las versiones 1.12.5, 1.13.6 y 1.14.4 de Flink.

Configura el agente de operaciones para Flink

Sigue la guía para configurar el Agente de operaciones, agrega los elementos necesarios a fin de recopilar telemetría de instancias de Flink y reiniciar el agente.

Configuración de ejemplo

Los siguientes comandos crean la configuración para recopilar y transferir la telemetría de Flink, y reinician el Agente de operaciones.

# Configures Ops Agent to collect telemetry from the app and restart Ops Agent.

set -e

# Create a back up of the existing file so existing configurations are not lost.
sudo cp /etc/google-cloud-ops-agent/config.yaml /etc/google-cloud-ops-agent/config.yaml.bak

# Configure the Ops Agent.
sudo tee /etc/google-cloud-ops-agent/config.yaml > /dev/null << EOF
metrics:
  receivers:
    flink:
      type: flink
  service:
    pipelines:
      flink:
        receivers:
          - flink
logging:
  receivers:
    flink:
      type: flink
  service:
    pipelines:
      flink:
        receivers:
          - flink
EOF

sudo service google-cloud-ops-agent restart
sleep 30

Configura la recopilación de registros

Para transferir registros desde Flink, debes crear un receptor para las registros que produce Flink y, luego, crear una canalización destinada al receptor nuevo.

A fin de configurar un receptor para tus registros flink, especifica los siguientes campos:

¿Qué se registra?

logName se deriva de los ID de receptor especificados en la configuración. Los campos detallados dentro de LogEntry son los siguientes.

Los registros flink contienen los siguientes campos en LogEntry:

Configura la recopilación de métricas

Para transferir métricas desde Flink, debes crear un receptor para las métricas que produce Flink y, luego, crear una canalización destinada al receptor nuevo.

Este receptor no admite el uso de varias instancias en la configuración, por ejemplo, para supervisar varios extremos. Todas estas instancias escriben en las mismas series temporales, y Cloud Monitoring no tiene forma de distinguirlas.

Para configurar un receptor para las métricas de flink, especifica los siguientes campos:

Qué se supervisa

En la siguiente tabla, se proporciona una lista de métricas que el Agente de operaciones recopila de la instancia Flink.

Verifica la configuración

En esta sección, se describe cómo verificar que hayas configurado correctamente el receptor de Flink. El agente de operaciones puede tardar uno o dos minutos en comenzar a recopilar telemetría.

Para verificar que los registros de Flink se envíen a Cloud Logging, haz lo siguiente:

1. En la consola de Google Cloud, ve a la página Explorador de registros:

   Ir al Explorador de registros

   Si usas la barra de búsqueda para encontrar esta página, selecciona el resultado cuyo subtítulo es Logging.

2. Ingresa la siguiente consulta en el editor y, luego, haz clic en Ejecutar consulta:
   

   resource.type="gce_instance"
   log_id("flink")
   

Para verificar que las métricas de Flink se envíen a Cloud Monitoring, haz lo siguiente:

1. En la consola de Google Cloud, ve a la página leaderboard Explorador de métricas:

   Ir al Explorador de métricas

   Si usas la barra de búsqueda para encontrar esta página, selecciona el resultado cuyo subtítulo es Monitoring.

2. En la barra de herramientas del panel del compilador de consultas, selecciona el botón cuyo nombre sea codeMQL o codePromQL.
3. Verifica que MQL esté seleccionado en el botón de activación Lenguaje. El botón de activación de lenguaje se encuentra en la misma barra de herramientas que te permite dar formato a tu consulta.
4. Ingresa la siguiente consulta en el editor y, luego, haz clic en Ejecutar consulta:
   

   fetch gce_instance
   | metric 'workload.googleapis.com/flink.jvm.memory.heap.used'
   | every 1m
   

Ver panel

Para ver tus métricas de Flink, debes tener configurado un gráfico o un panel. La integración de Flink incluye uno o más paneles. Cualquier panel se instala de forma automática después de que configuras la integración y de que el agente de operaciones comienza a recopilar datos de métricas.

También puedes ver vistas previas estáticas de los paneles sin instalar la integración.

Para ver un panel instalado, haz lo siguiente:

1. En la consola de Google Cloud, ve a la página  Paneles.

   Dirígete a Paneles de control

   Si usas la barra de búsqueda para encontrar esta página, selecciona el resultado cuyo subtítulo es Monitoring.

2. Selecciona la pestaña Lista de paneles y, luego, la categoría Integraciones.
3. Haz clic en el nombre del panel que quiera ver.

Si configuraste una integración, pero el panel no se instaló, verifica que el agente de operaciones se esté ejecutando. Cuando no hay datos de métricas para un gráfico en el panel, la instalación del panel falla. Una vez que el agente de operaciones comienza a recopilar métricas, el panel se instalará por ti.

Para obtener una vista previa estática del panel, haz lo siguiente:

1. En la consola de Google Cloud, ve a la página  Integraciones:

   Dirígete a Integraciones

   Si usas la barra de búsqueda para encontrar esta página, selecciona el resultado cuyo subtítulo es Monitoring.

2. Haz clic en el filtro de la plataforma de implementación Compute Engine.
3. Ubica la entrada de Flink y haz clic en Vista de detalles.
4. Selecciona la pestaña Paneles para ver una vista previa estática. Si el panel está instalado, haz clic en Ver panel para navegar a él.

Para obtener más información de los paneles en Cloud Monitoring, consulta Paneles y gráficos.

Para obtener más información del uso de la página Integraciones, consulta Administra integraciones.

Instala políticas de alertas

Las políticas de alertas le indican a Cloud Monitoring que te notifique cuando ocurren condiciones especificadas. La integración de Flink incluye una o más políticas de alertas para que uses. Puedes ver e instalar estas políticas de alertas desde la página Integraciones en Monitoring.

Para ver las descripciones de las políticas de alertas disponibles y, luego, instalarlas, haz lo siguiente:

1. En la consola de Google Cloud, ve a la página  Integraciones:

   Dirígete a Integraciones

   Si usas la barra de búsqueda para encontrar esta página, selecciona el resultado cuyo subtítulo es Monitoring.

2. Ubica la entrada de Flink y haz clic en Ver detalles.
3. Selecciona la pestaña Alertas. En esta pestaña, se proporcionan descripciones de las políticas de alertas disponibles y una interfaz para instalarlas.
4. Instala las políticas de alertas. Las políticas de alertas deben saber a dónde enviar notificaciones que la alerta se activó, por lo que requieren información de ti para la instalación. Para instalar las políticas de alertas, haz lo siguiente:
   1. En la lista de políticas de alertas disponibles, elige las que deseas instalar.

   2. En la sección Configura notificaciones, elige uno o más canales de notificaciones. Tienes la opción de inhabilitar el uso de los canales de notificación, pero si lo haces, las políticas de alertas se activarán de forma silenciosa. Puedes verificar su estado en Monitoring, pero no recibirás notificaciones.

      Para obtener más información de los canales de notificaciones, consulta Administra canales de notificaciones.

   3. Haz clic en Crear políticas.

Para obtener más información de las políticas de alertas en Cloud Monitoring, consulta Introducción a las alertas.

Para obtener más información del uso de la página Integraciones, consulta Administra integraciones.

¿Qué sigue?

Para obtener una explicación sobre cómo usar Ansible para instalar el Agente de operaciones, configurar una aplicación de terceros y, luego, instalar un panel de muestra, consulta el video Instala el Agente de operaciones para solucionar problemas de apps de terceros.