Arquitectura de Mainframe Connector

Por lo general, Mainframe Connector se implementa como una aplicación Java. Como la aplicación es autónoma, solo necesitas instalar IBM JRE versión 8 o IBM JRE versión 17 para implementar Mainframe Connector. Un procedimiento de lenguaje de control de trabajos (JCL) es el frontend que puedes usar para llamar a Mainframe Connector. En la siguiente imagen, se proporciona una descripción general de la arquitectura del conector de Mainframe.

Arquitectura de Mainframe Connector
Arquitectura de Mainframe Connector

Cuando sube archivos de datos a Cloud Storage, Mainframe Connector se comunica directamente con la API de Cloud Storage a través del procesador de información integrado de IBM z (zIIP) o del procesador general (GP). También puedes implementar un servicio remoto para descargar parte del procesamiento en Google Cloud.

Después de que se sube un archivo de datos a Cloud Storage, Mainframe Connector envía una llamada a procedimiento remoto (RPC) al servicio de gRPC que indica la ubicación del archivo, el diseño del registro y la ubicación de salida. El servicio de gRPC lee el archivo de Cloud Storage, transcodifica los datos y escribe un archivo Optimized Row Columnar (ORC) de varias partes en la ubicación de salida de Cloud Storage. Luego, Mainframe Connector se comunica directamente con la API de BigQuery para registrar el archivo ORC como una tabla externa o cargarlo en una tabla.

Como alternativa, puedes implementar un dispositivo de hardware en tu centro de datos para transferir datos directamente desde el sistema de almacenamiento de la computadora central a Cloud Storage con una biblioteca de cintas virtuales (VTL). Este enfoque no usa zIIP ni GP durante la transferencia de datos a Cloud Storage, ya que el dispositivo de hardware recibe los datos directamente del sistema de almacenamiento de la computadora central a través de una VTL y no usa la computadora central en absoluto. Esto libera la unidad central para tareas fundamentales de la empresa.

Encriptación de datos

IBM proporciona una implementación de Java Cryptography Extension (JCE) con la JVM llamada Java Cryptography Extension Common Cryptographic Architecture (IBMJCECCA) (Java 8 o Java 17) que usa el sistema de criptografía de hardware en IBM z/OS. La conexión de seguridad de la capa de transporte (TLS) entre la JVM y los extremos de la API de Google Cloud usa JCE y criptografía de hardware para proteger los datos durante las operaciones de extracción, transformación y carga (ELT).

Procedimiento de JCL

Para usar los procedimientos de JCL, debes instalar un intérprete de shell de BQSH en tus bibliotecas de procedimientos (PROCLIB) de mainframe. Los datos del entorno estándar (STDENV) en el procedimiento JCL se usan para establecer variables de entorno, argumentos de JVM y classpath de Java antes de iniciar la aplicación Java. Un procedimiento de JCL inicia la JVM y la clase principal com.google.cloud.bqsh.Bqsh con el iniciador de JVM de IBM JVMLDM86.

Intérprete de shell de BQSH

La clase principal de BQSH actúa como un intérprete de shell. Lee la entrada de transmisión desde un procedimiento JCL, divide las líneas de entrada y trata de interpretar cada línea como un comando.

Aplicación Java

El conector de Mainframe usa bibliotecas cliente de Cloud en Java, Apache ORC y otras bibliotecas de código abierto. Utiliza el SDK de JZOS propietario de IBM para interactuar con el sistema de almacenamiento de IBM z/OS y se ejecuta en la JVM en IBM z/OS y OpenJDK en Linux.

Pasos siguientes