Cargar datos Avro desde Cloud Storage
Avro es un formato de datos de código abierto que agrupa los datos serializados con el esquema de los datos en el mismo archivo.
Cuando cargas datos Avro desde Cloud Storage, puedes hacerlo en una tabla o partición nuevas, o bien añadir datos a una tabla o partición que ya tengas, o sobrescribirla. Cuando tus datos se cargan en BigQuery, se convierten al formato de columnas de Capacitor (el formato de almacenamiento de BigQuery).
Cuando cargas datos de Cloud Storage en una tabla de BigQuery, el conjunto de datos que contiene la tabla debe estar en la misma ubicación regional o multirregional que el segmento de Cloud Storage.
Para obtener información sobre cómo cargar datos Avro desde un archivo local, consulta el artículo Cargar datos en BigQuery desde una fuente de datos local.
Limitaciones
Cuando cargas datos en BigQuery desde un segmento de Cloud Storage, estás sujeto a las siguientes limitaciones:
- BigQuery no garantiza la coherencia de los datos de las fuentes de datos externas. Si se modifican los datos subyacentes mientras se ejecuta una consulta, se pueden producir comportamientos inesperados.
- BigQuery no admite la gestión de versiones de objetos de Cloud Storage. Si incluyes un número de generación en el URI de Cloud Storage, el trabajo de carga fallará.
También se aplican las siguientes limitaciones al cargar archivos Avro en BigQuery:
- BigQuery no admite la carga de archivos de esquema Avro (.avsc) independientes.
- BigQuery no admite el formato de matriz anidada. Los archivos Avro que usen este formato deben convertirse antes de importarse.
- En un archivo Avro, los nombres y los espacios de nombres de un nombre completo solo pueden contener caracteres alfanuméricos y el carácter de guion bajo
_
. La siguiente expresión regular muestra los caracteres permitidos:[A-Za-z_][A-Za-z0-9_]*
.
Para obtener información sobre los límites de las tareas de carga de BigQuery, consulta Tareas de carga.
Requisitos de los archivos de entrada
Para evitar errores resourcesExceeded
al cargar archivos Avro en BigQuery, sigue estas directrices:
- El tamaño de las filas no debe superar los 50 MB.
- Si la fila contiene muchos campos de matriz o algún campo de matriz muy largo, divide los valores de la matriz en campos independientes.
Antes de empezar
Asigna roles de gestión de identidades y accesos (IAM) que proporcionen a los usuarios los permisos necesarios para realizar cada tarea de este documento y crea un conjunto de datos y una tabla para almacenar tus datos.
Permisos obligatorios
Para cargar datos en BigQuery, necesitas permisos de gestión de identidades y accesos para ejecutar un trabajo de carga y cargar datos en tablas y particiones de BigQuery. Si cargas datos desde Cloud Storage, también necesitas permisos de IAM para acceder al segmento que contiene tus datos.
Permisos para cargar datos en BigQuery
Para cargar datos en una tabla o partición de BigQuery, o bien para añadir o sobrescribir una tabla o partición, necesitas los siguientes permisos de gestión de identidades y accesos:
bigquery.tables.create
bigquery.tables.updateData
bigquery.tables.update
bigquery.jobs.create
Cada uno de los siguientes roles de gestión de identidades y accesos predefinidos incluye los permisos que necesitas para cargar datos en una tabla o partición de BigQuery:
roles/bigquery.dataEditor
roles/bigquery.dataOwner
roles/bigquery.admin
(incluye el permisobigquery.jobs.create
)bigquery.user
(incluye el permisobigquery.jobs.create
)bigquery.jobUser
(incluye el permisobigquery.jobs.create
)
Además, si tienes el permiso bigquery.datasets.create
, puedes crear y actualizar tablas mediante un trabajo de carga en los conjuntos de datos que crees.
Para obtener más información sobre los roles y permisos de IAM en BigQuery, consulta el artículo sobre funciones y permisos predefinidos.
Permisos para cargar datos desde Cloud Storage
Para obtener los permisos que necesitas para cargar datos desde un segmento de Cloud Storage, pide a tu administrador que te conceda el rol de gestión de identidades y accesos Administrador de Storage (roles/storage.admin
) en el segmento.
Para obtener más información sobre cómo conceder roles, consulta el artículo Gestionar el acceso a proyectos, carpetas y organizaciones.
Este rol predefinido contiene los permisos necesarios para cargar datos desde un segmento de Cloud Storage. Para ver los permisos exactos que se necesitan, despliega la sección Permisos necesarios:
Permisos obligatorios
Para cargar datos desde un segmento de Cloud Storage, se necesitan los siguientes permisos:
-
storage.buckets.get
-
storage.objects.get
-
storage.objects.list (required if you are using a URI wildcard)
También puedes obtener estos permisos con roles personalizados u otros roles predefinidos.
Crear un conjunto de datos y una tabla
Para almacenar tus datos, debes crear un conjunto de datos de BigQuery y, a continuación, una tabla de BigQuery en ese conjunto de datos.
Ventajas de Avro
Avro es el formato preferido para cargar datos en BigQuery. Cargar archivos Avro tiene las siguientes ventajas con respecto a los archivos CSV y JSON (delimitados por líneas nuevas):
- El formato binario Avro:
- Se carga más rápido. Los datos se pueden leer en paralelo, aunque los bloques de datos estén comprimidos.
- No requiere escribir ni serializar.
- Es más fácil de analizar porque no se han encontrado problemas de codificación en otros formatos, como ASCII.
- Cuando cargas archivos Avro en BigQuery, el esquema de la tabla se obtiene automáticamente de los datos de origen autodescriptivos.
Esquemas Avro
Cuando cargas archivos Avro en una tabla de BigQuery, el esquema de la tabla se obtiene automáticamente a partir de los datos de origen. Cuando BigQuery obtiene el esquema de los datos de origen, se usa el último archivo por orden alfabético.
Por ejemplo, supongamos que tiene los siguientes archivos Avro en Cloud Storage:
gs://mybucket/00/ a.avro z.avro gs://mybucket/01/ b.avro
Al ejecutar este comando en la herramienta de línea de comandos bq, se cargan todos los archivos (como una lista separada por comas) y el esquema se deriva de mybucket/01/b.avro
:
bq load \ --source_format=AVRO \ dataset.table \ "gs://mybucket/00/*.avro","gs://mybucket/01/*.avro"
Cuando se importan varios archivos Avro con esquemas Avro diferentes, todos los esquemas deben ser compatibles con la resolución de esquemas de Avro.
Cuando BigQuery detecta el esquema, algunos tipos de datos de Avro se convierten en tipos de datos de BigQuery para que sean compatibles con la sintaxis de GoogleSQL. Para obtener más información, consulte Conversiones Avro.
Para proporcionar un esquema de tabla al crear tablas externas, define la propiedadreferenceFileSchemaUri
en la API de BigQuery o el parámetro --reference_file_schema_uri
en la herramienta de línea de comandos bq con la URL del archivo de referencia.
Por ejemplo, --reference_file_schema_uri="gs://mybucket/schema.avro"
.
También puedes importar un esquema a BigQuery especificando un archivo de esquema JSON.
Compresión Avro
BigQuery admite los siguientes códecs de compresión para el contenido de archivos Avro:
Snappy
DEFLATE
ZSTD
Cargar datos de Avro en una tabla nueva
Para cargar datos de Avro de Cloud Storage en una tabla de BigQuery, seleccione una de las siguientes opciones:
Consola
En la Google Cloud consola, abre la página de BigQuery.
En el panel Explorador, expande tu proyecto y selecciona un conjunto de datos.
Abre la opción
Acciones y haz clic en Abrir.En el panel de detalles, haz clic en Crear tabla
.En la página Crear tabla, ve a la sección Fuente:
En Crear tabla a partir de, selecciona Google Cloud Storage.
En el campo de origen, busca o introduce el URI de Cloud Storage. Ten en cuenta que no puedes incluir varias URIs en la Google Cloud consola, pero se admiten comodines. El segmento de Cloud Storage debe estar en la misma ubicación que el conjunto de datos que contiene la tabla que vas a crear.
En Formato de archivo, selecciona Avro.
En la página Crear tabla, ve a la sección Destino:
- En Nombre del conjunto de datos, elige el conjunto de datos adecuado.
- Verifica que el Tipo de tabla sea Tabla nativa.
- En el campo Nombre de la tabla, introduce el nombre de la tabla que vas a crear en BigQuery.
En la sección Esquema, no es necesario que haga nada. El esquema se describe automáticamente en los archivos Avro.
(Opcional) Para crear particiones en la tabla, elige las opciones que quieras en Configuración de particiones y clústeres. Para obtener más información, consulta el artículo Crear tablas particionadas.
(Opcional) En Filtro de partición, marque la casilla Requerir filtro de partición para que los usuarios incluyan una cláusula
WHERE
que especifique las particiones que se van a consultar. Si usas este filtro, es posible que rebajes los costes y mejores el rendimiento. Para obtener más información, consulta Requerir un filtro de partición en las consultas. Esta opción no está disponible si se selecciona Sin partición.(Opcional) Para agrupar la tabla, en el cuadro Orden de agrupación, introduzca entre uno y cuatro nombres de campo.
(Opcional) Haz clic en Opciones avanzadas.
- En Write preference (Preferencia de escritura), deja seleccionada la opción Write if empty (Escribir si está vacía). Esta opción crea una tabla y carga los datos en ella.
- En Valores desconocidos, deje desactivada la opción Ignorar valores desconocidos. Esta opción solo se aplica a los archivos CSV y JSON.
- En Encriptado, haz clic en Clave gestionada por el cliente para usar una clave de Cloud Key Management Service. Si dejas activado el ajuste Google-managed key, BigQuery cifra los datos en reposo.
Haz clic en Crear tabla.
SQL
Usa la
LOAD DATA
instrucción DDL.
En el siguiente ejemplo se carga un archivo Avro en la nueva tabla mytable
:
En la Google Cloud consola, ve a la página BigQuery.
En el editor de consultas, introduce la siguiente instrucción:
LOAD DATA OVERWRITE mydataset.mytable FROM FILES ( format = 'avro', uris = ['gs://bucket/path/file.avro']);
Haz clic en
Ejecutar.
Para obtener más información sobre cómo ejecutar consultas, consulta Ejecutar una consulta interactiva.
bq
Usa el comando bq load
, especifica AVRO
con la marca --source_format
e incluye un URI de Cloud Storage.
Puede incluir un solo URI, una lista de URIs separados por comas o un URI que contenga un comodín.
(Opcional) Proporcione la marca --location
y asigne el valor a su ubicación.
Otras marcas opcionales son:
--time_partitioning_type
: habilita la creación de particiones basadas en el tiempo en una tabla y define el tipo de partición. Los valores posibles sonHOUR
,DAY
,MONTH
yYEAR
. Esta marca es opcional cuando se crea una tabla con particiones en una columnaDATE
,DATETIME
oTIMESTAMP
. El tipo de partición predeterminado para la partición basada en tiempo esDAY
. No puedes cambiar la especificación de partición de una tabla que ya tengas.--time_partitioning_expiration
: número entero que especifica (en segundos) cuándo se debe eliminar una partición basada en el tiempo. El tiempo de caducidad se calcula como la fecha UTC de la partición más el valor entero.--time_partitioning_field
: columnaDATE
oTIMESTAMP
que se usa para crear una tabla con particiones. Si se habilita la creación de particiones basadas en tiempo sin este valor, se creará una tabla con particiones por hora de ingestión.--require_partition_filter
: cuando se habilita esta opción, los usuarios deben incluir una cláusulaWHERE
que especifique las particiones que se van a consultar. Si usas este filtro, es posible que rebajes los costes y mejores el rendimiento. Para obtener más información, consulta Requerir un filtro de partición en las consultas.--clustering_fields
: lista separada por comas de hasta cuatro nombres de columna que se usa para crear una tabla agrupada en clústeres.--destination_kms_key
: la clave de Cloud KMS para cifrar los datos de la tabla.Para obtener más información sobre las tablas con particiones, consulta los siguientes artículos:
Para obtener más información sobre las tablas agrupadas en clústeres, consulta los siguientes enlaces:
Para obtener más información sobre el cifrado de tablas, consulta los siguientes artículos:
Para cargar datos Avro en BigQuery, introduce el siguiente comando:
bq --location=location load \ --source_format=format \ dataset.table \ path_to_source
Haz los cambios siguientes:
- location es tu ubicación. La marca
--location
es opcional. Por ejemplo, si usas BigQuery en la región de Tokio, puedes definir el valor de la marca comoasia-northeast1
. Puedes definir un valor predeterminado para la ubicación mediante el archivo.bigqueryrc. - format es
AVRO
. - dataset es un conjunto de datos.
- table es el nombre de la tabla en la que se cargan los datos.
- path_to_source es un URI de Cloud Storage completo o una lista de URIs separados por comas. También se admiten comodines.
Ejemplos:
El siguiente comando carga datos de gs://mybucket/mydata.avro
en una tabla llamada mytable
en mydataset
.
bq load \
--source_format=AVRO \
mydataset.mytable \
gs://mybucket/mydata.avro
El siguiente comando carga datos de gs://mybucket/mydata.avro
en una tabla con particiones por tiempo de ingestión llamada mytable
en mydataset
.
bq load \
--source_format=AVRO \
--time_partitioning_type=DAY \
mydataset.mytable \
gs://mybucket/mydata.avro
El siguiente comando carga datos de gs://mybucket/mydata.avro
en una tabla particionada nueva llamada mytable
en mydataset
. que cuenta con particiones por la columna mytimestamp
.
bq load \
--source_format=AVRO \
--time_partitioning_field mytimestamp \
mydataset.mytable \
gs://mybucket/mydata.avro
El siguiente comando carga datos de varios archivos de gs://mybucket/
en una tabla llamada mytable
de mydataset
. El URI de Cloud Storage usa un comodín.
bq load \
--source_format=AVRO \
mydataset.mytable \
gs://mybucket/mydata*.avro
El siguiente comando carga datos de varios archivos de gs://mybucket/
en una tabla llamada mytable
de mydataset
. El comando incluye una lista de URIs de Cloud Storage separados por comas con comodines.
bq load \
--source_format=AVRO \
mydataset.mytable \
"gs://mybucket/00/*.avro","gs://mybucket/01/*.avro"
API
Crea una tarea
load
que apunte a los datos de origen en Cloud Storage.(Opcional) Especifica tu ubicación en la propiedad
location
de la secciónjobReference
del recurso de empleo.La propiedad
source URIs
debe estar totalmente cualificada y tener el formatogs://bucket/object
. Cada URI puede contener un carácter comodín "*".Para especificar el formato de datos Avro, asigna el valor
AVRO
a la propiedadsourceFormat
.Para comprobar el estado del trabajo, llama a
jobs.get(job_id*)
, donde job_id es el ID del trabajo devuelto por la solicitud inicial.- Si
status.state = DONE
, el trabajo se ha completado correctamente. - Si la propiedad
status.errorResult
está presente, significa que se ha producido un error en la solicitud y que el objeto incluirá información que describe lo que ha fallado. Si una solicitud falla, no se crea ninguna tabla y no se cargan datos. - Si no aparece
status.errorResult
, significa que el trabajo se ha completado correctamente, aunque es posible que se hayan producido algunos errores no graves, como problemas al importar algunas filas. Los errores no críticos se indican en la propiedadstatus.errors
del objeto de trabajo devuelto.
- Si
Notas sobre la API:
Las tareas de carga son atómicas y coherentes: si una tarea de carga falla, no habrá datos disponibles, y si se completa correctamente, todos los datos estarán disponibles.
Como práctica recomendada, genera un ID único y pásalo como
jobReference.jobId
al llamar ajobs.insert
para crear un trabajo de carga. Este enfoque es más sólido ante fallos de red, ya que el cliente puede sondear o volver a intentar la operación con el ID de trabajo conocido.Llamar a
jobs.insert
en un ID de trabajo determinado es idempotente. Puedes volver a intentarlo tantas veces como quieras con el mismo ID de trabajo y, como máximo, una de esas operaciones se completará correctamente.
Go
Antes de probar este ejemplo, sigue las Goinstrucciones de configuración de la guía de inicio rápido de BigQuery con bibliotecas de cliente. Para obtener más información, consulta la documentación de referencia de la API Go de BigQuery.
Para autenticarte en BigQuery, configura las credenciales predeterminadas de la aplicación. Para obtener más información, consulta el artículo Configurar la autenticación para bibliotecas de cliente.
Java
Antes de probar este ejemplo, sigue las Javainstrucciones de configuración de la guía de inicio rápido de BigQuery con bibliotecas de cliente. Para obtener más información, consulta la documentación de referencia de la API Java de BigQuery.
Para autenticarte en BigQuery, configura las credenciales predeterminadas de la aplicación. Para obtener más información, consulta el artículo Configurar la autenticación para bibliotecas de cliente.
Node.js
Antes de probar este ejemplo, sigue las Node.jsinstrucciones de configuración de la guía de inicio rápido de BigQuery con bibliotecas de cliente. Para obtener más información, consulta la documentación de referencia de la API Node.js de BigQuery.
Para autenticarte en BigQuery, configura las credenciales predeterminadas de la aplicación. Para obtener más información, consulta el artículo Configurar la autenticación para bibliotecas de cliente.
Python
Antes de probar este ejemplo, sigue las Pythoninstrucciones de configuración de la guía de inicio rápido de BigQuery con bibliotecas de cliente. Para obtener más información, consulta la documentación de referencia de la API Python de BigQuery.
Para autenticarte en BigQuery, configura las credenciales predeterminadas de la aplicación. Para obtener más información, consulta el artículo Configurar la autenticación para bibliotecas de cliente.
Extraer datos JSON de datos Avro
Hay dos formas de asegurarse de que los datos Avro se carguen en BigQuery como JSON
datos:
Anota tu esquema Avro con
sqlType
definido comoJSON
. Por ejemplo, si carga datos con el siguiente esquema Avro, la columnajson_field
se leerá como un tipoJSON
:{ "type": {"type": "string", "sqlType": "JSON"}, "name": "json_field" }
Especifica explícitamente el esquema de la tabla de destino de BigQuery y define el tipo de columna como
JSON
. Para obtener más información, consulta Especificar un esquema.
Si no especificas JSON como tipo en el esquema Avro o en el esquema de la tabla de BigQuery, los datos se leerán como STRING
.
Añadir datos de Avro a una tabla o sobrescribirla
Puedes cargar datos adicionales en una tabla desde archivos de origen o añadiendo resultados de consultas.
En la Google Cloud consola, usa la opción Preferencia de escritura para especificar qué acción se debe llevar a cabo cuando cargues datos de un archivo de origen o de un resultado de consulta.
Cuando cargas datos adicionales en una tabla, tienes las siguientes opciones:
Opción de consola | Marca de la herramienta bq | Propiedad de la API de BigQuery | Descripción |
---|---|---|---|
Escribir si está vacía | No compatible | WRITE_EMPTY |
Escribe los datos solo si la tabla está vacía. |
Añadir a tabla | --noreplace o --replace=false . Si no se especifica --[no]replace , el valor predeterminado es "append". |
WRITE_APPEND |
Predeterminado: Añade los datos al final de la tabla. |
Sobrescribir tabla | --replace o --replace=true |
WRITE_TRUNCATE |
Borra todos los datos de una tabla antes de escribir los nuevos datos. Esta acción también elimina el esquema de la tabla, la seguridad a nivel de fila y cualquier clave de Cloud KMS. |
Si cargas datos en una tabla, la tarea de carga puede añadir los datos o sobrescribir la tabla.
Para añadir o sobrescribir una tabla con datos de Avro, sigue estos pasos:
Consola
En la Google Cloud consola, abre la página de BigQuery.
En el panel Explorador, expande tu proyecto y selecciona un conjunto de datos.
Abre la opción
Acciones y haz clic en Abrir.En el panel de detalles, haz clic en Crear tabla
.En la página Crear tabla, ve a la sección Fuente:
- En Crear tabla a partir de, selecciona Cloud Storage.
En el campo de origen, busca o introduce el URI de Cloud Storage. Ten en cuenta que no puedes incluir varios URIs en la consola Google Cloud , pero sí comodines. El segmento de Cloud Storage debe estar en la misma ubicación que el conjunto de datos que contiene la tabla que vas a añadir o sobrescribir.
En Formato de archivo, selecciona Avro.
En la página Crear tabla, ve a la sección Destino:
En Nombre del conjunto de datos, elige el conjunto de datos adecuado.
En el campo Nombre de la tabla, introduzca el nombre de la tabla que quiera añadir o sobrescribir en BigQuery.
Verifica que el Tipo de tabla sea Tabla nativa.
En la sección Esquema, no es necesario que haga nada. El esquema se describe automáticamente en los archivos Avro.
En Configuración de partición y clúster, deja los valores predeterminados. No puedes convertir una tabla en una tabla con particiones o agrupada en clústeres añadiendo o sobrescribiendo datos, y la consola Google Cloud no admite la adición ni la sobrescritura de datos en tablas con particiones o agrupadas en clústeres en una tarea de carga.
Haz clic en Advanced options (Opciones avanzadas).
- En Preferencia de escritura, elija Añadir a la tabla o Sobrescribir tabla.
- En Valores desconocidos, deje desactivada la opción Ignorar valores desconocidos. Esta opción solo se aplica a los archivos CSV y JSON.
- En Encriptado, haz clic en Clave gestionada por el cliente para usar una clave de Cloud Key Management Service. Si dejas activado el ajuste Google-owned and managed key, BigQuery cifra los datos en reposo.
Haz clic en Crear tabla.
SQL
Usa la
LOAD DATA
instrucción DDL.
En el siguiente ejemplo se añade un archivo Avro a la tabla mytable
:
En la Google Cloud consola, ve a la página BigQuery.
En el editor de consultas, introduce la siguiente instrucción:
LOAD DATA INTO mydataset.mytable FROM FILES ( format = 'avro', uris = ['gs://bucket/path/file.avro']);
Haz clic en
Ejecutar.
Para obtener más información sobre cómo ejecutar consultas, consulta Ejecutar una consulta interactiva.
bq
Introduce el comando bq load
con la marca --replace
para sobrescribir la tabla. Usa la marca --noreplace
para añadir datos a la tabla. Si no se especifica ninguna marca, el valor predeterminado es añadir datos. Proporciona la marca --source_format
y asígnala a AVRO
. Como los esquemas Avro se obtienen automáticamente de los datos de origen autodescriptivos, no es necesario que proporcione una definición de esquema.
(Opcional) Proporcione la marca --location
y asigne el valor a su ubicación.
Otras marcas opcionales son:
--destination_kms_key
: la clave de Cloud KMS para cifrar los datos de la tabla.
bq --location=location load \ --[no]replace \ --source_format=format \ dataset.table \ path_to_source
Haz los cambios siguientes:
- location es tu ubicación.
La marca
--location
es opcional. Puedes definir un valor predeterminado para la ubicación mediante el archivo.bigqueryrc. - format es
AVRO
. - dataset es un conjunto de datos.
- table es el nombre de la tabla en la que se cargan los datos.
- path_to_source es un URI de Cloud Storage completo o una lista de URIs separados por comas. También se admiten comodines.
Ejemplos:
El siguiente comando carga datos de gs://mybucket/mydata.avro
y
sobrescribe una tabla llamada mytable
en mydataset
.
bq load \
--replace \
--source_format=AVRO \
mydataset.mytable \
gs://mybucket/mydata.avro
El siguiente comando carga datos de gs://mybucket/mydata.avro
y añade datos a una tabla llamada mytable
en mydataset
.
bq load \
--noreplace \
--source_format=AVRO \
mydataset.mytable \
gs://mybucket/mydata.avro
Para obtener información sobre cómo añadir y sobrescribir tablas con particiones mediante la herramienta de línea de comandos bq, consulta el artículo Añadir y sobrescribir datos de tablas con particiones.
API
Crea una tarea
load
que apunte a los datos de origen en Cloud Storage.(Opcional) Especifica tu ubicación en la propiedad
location
de la secciónjobReference
del recurso de empleo.La propiedad
source URIs
debe estar completa y tener el formatogs://bucket/object
. Puedes incluir varios URIs en una lista separada por comas. Ten en cuenta que también se admiten comodines.Especifica el formato de los datos asignando el valor
AVRO
a la propiedadconfiguration.load.sourceFormat
.Especifica la preferencia de escritura asignando el valor
WRITE_TRUNCATE
oWRITE_APPEND
a la propiedadconfiguration.load.writeDisposition
.
Go
Antes de probar este ejemplo, sigue las Goinstrucciones de configuración de la guía de inicio rápido de BigQuery con bibliotecas de cliente. Para obtener más información, consulta la documentación de referencia de la API Go de BigQuery.
Para autenticarte en BigQuery, configura las credenciales predeterminadas de la aplicación. Para obtener más información, consulta el artículo Configurar la autenticación para bibliotecas de cliente.
Java
Antes de probar este ejemplo, sigue las Javainstrucciones de configuración de la guía de inicio rápido de BigQuery con bibliotecas de cliente. Para obtener más información, consulta la documentación de referencia de la API Java de BigQuery.
Para autenticarte en BigQuery, configura las credenciales predeterminadas de la aplicación. Para obtener más información, consulta el artículo Configurar la autenticación para bibliotecas de cliente.
Node.js
Antes de probar este ejemplo, sigue las Node.jsinstrucciones de configuración de la guía de inicio rápido de BigQuery con bibliotecas de cliente. Para obtener más información, consulta la documentación de referencia de la API Node.js de BigQuery.
Para autenticarte en BigQuery, configura las credenciales predeterminadas de la aplicación. Para obtener más información, consulta el artículo Configurar la autenticación para bibliotecas de cliente.
Python
Antes de probar este ejemplo, sigue las Pythoninstrucciones de configuración de la guía de inicio rápido de BigQuery con bibliotecas de cliente. Para obtener más información, consulta la documentación de referencia de la API Python de BigQuery.
Para autenticarte en BigQuery, configura las credenciales predeterminadas de la aplicación. Para obtener más información, consulta el artículo Configurar la autenticación para bibliotecas de cliente.
Cargar datos de Avro con particiones de Hive
BigQuery permite cargar datos de Avro particionados por Hive almacenados en Cloud Storage y rellena las columnas de partición de Hive como columnas en la tabla gestionada de BigQuery de destino. Para obtener más información, consulta el artículo Cargar datos con particiones externas desde Cloud Storage.
Conversiones Avro
BigQuery convierte los tipos de datos de Avro en los siguientes tipos de datos de BigQuery:
Tipos primitivos
Tipo de datos de BigQuery | Notas | |
---|---|---|
null | BigQuery ignora estos valores | |
booleano | BOOLEAN | |
int | INTEGER | |
long | INTEGER | |
flotante | FLOAT | |
doble | FLOAT | |
bytes | BYTES | |
cadena | STRING | Solo UTF-8 |
Tipos lógicos
De forma predeterminada, BigQuery ignora el atributo logicalType
de la mayoría de los tipos y usa el tipo Avro subyacente. Para convertir los tipos lógicos de Avro en sus tipos de datos de BigQuery correspondientes, asigna el valor true
a la marca --use_avro_logical_types
con la herramienta de línea de comandos bq o asigna el valor useAvroLogicalTypes
a la propiedad job resource cuando llames al método jobs.insert
para crear una tarea de carga.
En la tabla siguiente se muestra la conversión de tipos lógicos de Avro a tipos de datos de BigQuery.
Tipo de datos de BigQuery: tipo lógico inhabilitado | Tipo de datos de BigQuery: tipo lógico habilitado | |
---|---|---|
fecha | INTEGER | FECHA |
time-millis | INTEGER | HORA |
time_micros | INTEGER (convertido de LONG) | HORA |
timestamp-millis | INTEGER (convertido de LONG) | TIMESTAMP |
timestamp-micros | INTEGER (convertido de LONG) | TIMESTAMP |
local-timestamp-millis | INTEGER (convertido de LONG) | DATETIME |
local-timestamp-micros | INTEGER (convertido de LONG) | DATETIME |
duración | BYTES (convertido del tipo fixed de tamaño 12) |
BYTES (convertido del tipo fixed de tamaño 12) |
decimal | NUMERIC, BIGNUMERIC o STRING (consulta Tipo lógico decimal) | NUMERIC, BIGNUMERIC o STRING (consulta Tipo lógico decimal) |
Para obtener más información sobre los tipos de datos Avro, consulta la especificación de Apache Avro™ 1.8.2.
Tipo lógico de fecha
En cualquier archivo Avro que quieras cargar, debes especificar los tipos lógicos de fecha con el siguiente formato:
{
"type": {"logicalType": "date", "type": "int"},
"name": "date_field"
}
Tipo lógico decimal
Los tipos lógicos Decimal
se pueden convertir en tipos NUMERIC
, BIGNUMERIC
o STRING
. El tipo convertido depende de los parámetros de precisión y escala del tipo lógico decimal
y de los tipos de destino decimales especificados. Especifica el tipo de destino decimal de la siguiente manera:
- Para un trabajo de carga con la API
jobs.insert
, usa el campoJobConfigurationLoad.decimalTargetTypes
. - Para un trabajo de carga con el comando
bq load
de la herramienta de línea de comandos bq, usa la marca--decimal_target_types
. - Para hacer una consulta en una tabla con fuentes externas, usa el campo
ExternalDataConfiguration.decimalTargetTypes
. - En el caso de una tabla externa persistente creada con DDL, usa la opción
decimal_target_types
.
Por motivos de compatibilidad con versiones anteriores, si no se especifican los tipos de destino decimales, puede cargar un archivo Avro que contenga una columna bytes
con el tipo lógico decimal
en una columna BYTES
de una tabla. En este caso, se ignora el tipo lógico decimal
de la columna del archivo Avro. Este modo de conversión está obsoleto y puede que se elimine en el futuro.
Para obtener más información sobre el tipo lógico decimal
de Avro, consulta la especificación de Apache Avro™ 1.8.2.
Tipo lógico de tiempo
En cualquier archivo Avro que quieras cargar, debes especificar los tipos lógicos de tiempo en uno de los siguientes formatos.
Para obtener una precisión de milisegundos:
{
"type": {"logicalType": "time-millis", "type": "int"},
"name": "time_millis_field"
}
Para obtener una precisión de microsegundos:
{
"type": {"logicalType": "time-micros", "type": "int"},
"name": "time_micros_field"
}
Tipo lógico de marca de tiempo
En cualquier archivo Avro que quiera cargar, debe especificar los tipos lógicos de marca de tiempo en uno de los siguientes formatos.
Para obtener una precisión de milisegundos:
{
"type": {"logicalType": "timestamp-millis", "type": "long"},
"name": "timestamp_millis_field"
}
Para obtener una precisión de microsegundos:
{
"type": {"logicalType": "timestamp-micros", "type": "long"},
"name": "timestamp_micros_field"
}
Tipo lógico Local-Timestamp
En cualquier archivo Avro que quieras cargar, debes especificar un tipo lógico local-timestamp en uno de los siguientes formatos.
Para obtener una precisión de milisegundos:
{
"type": {"logicalType": "local-timestamp-millis", "type": "long"},
"name": "local_timestamp_millis_field"
}
Para obtener una precisión de microsegundos:
{
"type": {"logicalType": "local-timestamp-micros", "type": "long"},
"name": "local_timestamp_micros_field"
}
Tipos complejos
Tipo de datos de BigQuery | Notas | |
---|---|---|
registro | RECORD |
|
enum | STRING |
|
array | campos repetidos | No se admiten matrices de matrices. Se ignoran las matrices que solo contienen tipos NULL. |
map<T> | RECORD | BigQuery convierte un campo de mapa<T> de Avro en un RECORD repetido que contiene dos campos: una clave y un valor. BigQuery almacena la clave como una CADENA y convierte el valor al tipo de datos correspondiente en BigQuery. |
unión |
|
|
Fijo | BYTES |
|