파티션을 나눈 테이블 관리

콘솔

Google Cloud 콘솔에서는 파티션 만료 시간을 업데이트할 수 없습니다.

SQL

ALTER TABLE SET OPTIONS 문을 사용합니다. 다음 예시에서는 만료 시간을 5일로 업데이트합니다. 테이블의 파티션 만료 시간을 삭제하려면 partition_expiration_days를 NULL로 설정합니다.

1. Google Cloud 콘솔에서 BigQuery 페이지로 이동합니다.

   BigQuery로 이동

2. 쿼리 편집기에서 다음 문을 입력합니다.

   ALTER TABLE mydataset.mytable
     SET OPTIONS (
       -- Sets partition expiration to 5 days
       partition_expiration_days = 5);

3. play_circle 실행을 클릭합니다.

쿼리를 실행하는 방법에 대한 자세한 내용은 대화형 쿼리 실행을 참조하세요.

bq

bq update 명령어를 --time_partitioning_expiration 플래그와 함께 실행합니다. 기본 프로젝트가 아닌 다른 프로젝트의 파티션을 나눈 테이블을 업데이트하려면 해당 프로젝트 ID를 project_id:dataset 형식으로 데이터 세트 이름에 추가합니다.

bq update \
--time_partitioning_expiration integer_in_seconds \
--time_partitioning_type unit_time \
project_id:dataset.table

각 항목의 의미는 다음과 같습니다.

• integer는 테이블 파티션의 기본 수명(단위: 초)입니다. 최솟값은 없습니다. 만료 시간은 파티션의 날짜와 정수 값을 더한 값입니다. 0을 지정하면 파티션 만료 시간이 삭제되고 파티션이 만료되지 않습니다. 만료 시간이 없는 파티션은 수동으로 삭제해야 합니다.
• unit_time은 테이블의 파티션 나누기 세부사항을 기준으로 하는 DAY, HOUR, MONTH 또는 YEAR입니다. 이 값은 테이블을 만들 때 설정한 세부사항과 일치해야 합니다.
• project_id는 프로젝트 ID입니다.
• dataset는 업데이트할 테이블이 포함되어 있는 데이터 세트의 이름입니다.
• table은 업데이트할 테이블의 이름입니다.

예를 들면 다음과 같습니다.

mydataset.mytable의 파티션 만료 시간을 5일(432,000초)로 업데이트하려면 다음 명령어를 입력합니다. 여기서 mydataset는 기본 프로젝트에 있습니다.

bq update --time_partitioning_expiration 432000 mydataset.mytable

mydataset.mytable의 파티션 만료 시간을 5일(432,000초)로 업데이트하려면 다음 명령어를 입력합니다. mydataset는 기본 프로젝트가 아닌 myotherproject에 있습니다.

bq update \
--time_partitioning_expiration 432000 \
myotherproject:mydataset.mytable

API

tables.patch 메서드를 호출하고 timePartitioning.expirationMs 속성을 사용하여 파티션 만료 시간을 밀리초 단위로 업데이트합니다. tables.update 메서드는 전체 테이블 리소스를 바꾸기 때문에 tables.patch 메서드를 사용하는 것이 좋습니다.

콘솔

파티션을 나눈 테이블이 생성된 후에는 Google Cloud 콘솔을 사용하여 파티션 필터를 필수로 지정할 수 없습니다.

SQL

ALTER TABLE SET OPTIONS 문을 사용하여 파티션 필터 요구사항을 업데이트합니다. 다음 예시에서는 요구사항을 true로 업데이트합니다.

1. Google Cloud 콘솔에서 BigQuery 페이지로 이동합니다.

   BigQuery로 이동

2. 쿼리 편집기에서 다음 문을 입력합니다.

   ALTER TABLE mydataset.mypartitionedtable
     SET OPTIONS (
       require_partition_filter = true);

3. play_circle 실행을 클릭합니다.

쿼리를 실행하는 방법에 대한 자세한 내용은 대화형 쿼리 실행을 참조하세요.

bq

bq 명령줄 도구를 사용하여 파티션 필터를 요구하도록 파티션을 나눈 테이블을 업데이트하려면 bq update 명령어를 입력하고 --require_partition_filter 플래그를 지정합니다.

기본 프로젝트가 아닌 다른 프로젝트의 파티션을 나눈 테이블을 업데이트하려면 해당 프로젝트 ID를 project_id:dataset 형식으로 데이터 세트에 추가합니다.

예를 들면 다음과 같습니다.

기본 프로젝트에 있는 mydataset의 mypartitionedtable을 업데이트하려면 다음을 입력합니다.

bq update --require_partition_filter mydataset.mytable

myotherproject에 있는 mydataset의 mypartitionedtable을 업데이트하려면 다음을 입력합니다.

bq update --require_partition_filter myotherproject:mydataset.mytable

API

tables.patch 메서드를 호출하고 requirePartitionFilter 속성을 true로 설정하여 파티션 필터를 필수로 지정합니다. tables.update 메서드는 전체 테이블 리소스를 바꾸기 때문에 tables.patch 메서드를 사용하는 것이 좋습니다.

자바

import com.google.cloud.bigquery.BigQuery;
import com.google.cloud.bigquery.BigQueryException;
import com.google.cloud.bigquery.BigQueryOptions;
import com.google.cloud.bigquery.Table;

// Sample to update require partition filter on a table.
public class UpdateTableRequirePartitionFilter {

  public static void runUpdateTableRequirePartitionFilter() {
    // TODO(developer): Replace these variables before running the sample.
    String datasetName = "MY_DATASET_NAME";
    String tableName = "MY_TABLE_NAME";
    updateTableRequirePartitionFilter(datasetName, tableName);
  }

  public static void updateTableRequirePartitionFilter(String datasetName, String tableName) {
    try {
      // Initialize client that will be used to send requests. This client only needs to be created
      // once, and can be reused for multiple requests.
      BigQuery bigquery = BigQueryOptions.getDefaultInstance().getService();

      Table table = bigquery.getTable(datasetName, tableName);
      table.toBuilder().setRequirePartitionFilter(true).build().update();

      System.out.println("Table require partition filter updated successfully");
    } catch (BigQueryException e) {
      System.out.println("Table require partition filter was not updated \n" + e.toString());
    }
  }
}

콘솔

Google Cloud 콘솔에서는 파티션을 복사할 수 없습니다.

bq

파티션을 복사하려면 bq cp 명령줄 도구의 $date(copy) 명령어와 bq 같은 파티션 데코레이터($20160201)를 함께 사용합니다.

선택적 플래그를 사용하면 대상 파티션의 쓰기 처리를 제어할 수 있습니다.

• -a 또는 --append_table은 소스 파티션의 데이터를 대상 데이터 세트의 기존 테이블 또는 파티션에 추가합니다.
• -f 또는 --force는 대상 데이터 세트의 기존 테이블 또는 파티션을 덮어쓰며 확인 메시지를 표시하지 않습니다.
• -n 또는 --no_clobber는 해당 테이블 또는 파티션이 대상 데이터 세트에 이미 있는 경우 Table '<var>project_id:dataset.table</var> or <var>table$date</var>' already exists, skipping. 오류 메시지를 반환합니다. -n을 지정하지 않으면 기본적으로 대상 테이블 또는 파티션을 대체할지 묻는 메시지가 표시됩니다.
• --destination_kms_key는 대상 테이블 또는 파티션을 암호화하는 데 사용되는 고객 관리 Cloud KMS 키입니다.

cp 명령어는 --time_partitioning_field 또는 --time_partitioning_type 플래그를 지원하지 않습니다. 수집 시간으로 파티션을 나눈 테이블을 복사 작업을 통해 파티션을 나눈 테이블로 변환할 수는 없습니다.

여기서는 --destination_kms_key를 설명하지 않습니다. 자세한 내용은 Cloud KMS 키로 데이터 보호를 참조하세요.

소스 데이터 세트 또는 대상 데이터 세트가 기본 프로젝트가 아닌 다른 프로젝트에 있으면 프로젝트 ID를 project_id:dataset 형식으로 데이터 세트 이름에 추가합니다.

(선택사항) --location 플래그를 지정하고 값을 사용자 위치로 설정합니다.

bq --location=location cp \
-a -f -n \
project_id:dataset.source_table$source_partition \
project_id:dataset.destination_table$destination_partition

각 항목의 의미는 다음과 같습니다.

• location은 사용자 위치의 이름입니다. --location 플래그는 선택사항입니다. 예를 들어 도쿄 리전에서 BigQuery를 사용하는 경우 플래그 값을 asia-northeast1로 설정할 수 있습니다. .bigqueryrc 파일을 사용하여 위치 기본값을 설정할 수 있습니다.
• project_id는 프로젝트 ID입니다.
• dataset는 소스 또는 대상 데이터 세트의 이름입니다.
• source_table은 복사할 테이블입니다.
• source_partition은 소스 파티션의 파티션 데코레이터입니다.
• destination_table은 대상 데이터 세트의 테이블 이름입니다.
• destination_partition은 대상 파티션의 파티션 데코레이터입니다.

예를 들면 다음과 같습니다.

새 테이블에 파티션 복사

mydataset.mytable의 2018년 1월 30일 파티션을 새 테이블 mydataset.mytable2에 복사하려면 다음 명령어를 입력합니다. 여기서 mydataset는 기본 프로젝트에 있습니다.

bq cp -a 'mydataset.mytable$20180130' mydataset.mytable2

파티션을 나누지 않은 테이블에 파티션 복사

mydataset.mytable의 2018년 1월 30일 파티션을 mydataset2.mytable2라는 이름의 파티션을 나누지 않은 테이블에 복사하려면 다음 명령어를 입력합니다. -a 단축키를 사용하면 파티션의 데이터가 파티션을 나누지 않은 대상 테이블에 추가됩니다. 여기서 두 데이터 세트는 모두 기본 프로젝트에 있습니다.

bq cp -a 'mydataset.mytable$20180130' mydataset2.mytable2

mydataset.mytable의 2018년 1월 30일 파티션을 mydataset2.mytable2라는 이름의 파티션을 나누지 않은 테이블에 복사하려면 다음 명령어를 입력합니다. -f 단축키를 사용하면 확인 메시지 없이 파티션을 나누지 않은 대상 테이블을 덮어씁니다.

bq --location=US cp -f 'mydataset.mytable$20180130' mydataset2.mytable2

다른 파티션을 나눈 테이블에 파티션 복사

mydataset.mytable의 2018년 1월 30일 파티션을 mydataset2.mytable2라는 이름의 다른 파티션을 나눈 테이블에 복사하려면 다음 명령어를 입력합니다. -a 단축키를 사용하면 파티션의 데이터가 대상 테이블에 추가됩니다. 대상 테이블에 파티션 데코레이터가 지정되지 않았기 때문에 소스 파티션 키가 유지되고 대상 테이블의 2018년 1월 30일 파티션에 데이터가 복사됩니다. 대상 테이블에 파티션 데코레이터를 지정하여 데이터를 특정 파티션에 복사할 수도 있습니다. 여기서 mydataset는 기본 프로젝트에 있습니다. mydataset2는 기본 프로젝트가 아닌 myotherproject에 있습니다.

bq --location=US cp \
-a \
'mydataset.mytable$20180130' \
myotherproject:mydataset2.mytable2

mydataset.mytable의 2018년 1월 30일 파티션을 mydataset2.mytable2라는 이름의 다른 파티션을 나눈 테이블에 있는 2018년 2월 20일 파티션에 복사하려면 다음 명령어를 입력합니다. -f 단축키를 사용하면 대상 테이블의 2018년 2월 20일 파티션을 확인 메시지 없이 덮어씁니다. 파티션 데코레이터를 사용하지 않으면 대상 테이블의 모든 데이터를 덮어쓰게 됩니다. 여기서 mydataset는 기본 프로젝트에 있습니다. mydataset2는 기본 프로젝트가 아닌 myotherproject에 있습니다.

bq cp \
-f \
'mydataset.mytable$20180130' \
'myotherproject:mydataset2.mytable2$20180220'

mydataset.mytable의 2018년 1월 30일 파티션을 mydataset2.mytable2라는 이름의 다른 파티션을 나눈 테이블에 복사하려면 다음 명령어를 입력합니다. 여기서 mydataset는 기본 프로젝트에 있습니다. mydataset2는 기본 프로젝트가 아닌 myotherproject에 있습니다. 대상 테이블에 데이터가 있으면 덮어쓸지 여부를 묻는 메시지가 기본적으로 표시됩니다.

bq cp \
'mydataset.mytable$20180130' \
myotherproject:mydataset2.mytable2

여러 파티션을 복사하려면 쉼표로 구분된 목록으로 지정합니다.

bq cp \
'mydataset.mytable$20180130,mydataset.mytable$20180131' \
myotherproject:mydataset.mytable2

API

jobs.insert 메서드를 호출하고 copy 작업을 구성합니다. (선택사항) 작업 리소스의 jobReference 섹션에 있는 location 속성에 사용자 리전을 지정합니다.

작업 구성에 다음 속성을 지정합니다.

• sourceTables 속성에 소스 데이터 세트, 테이블, 파티션을 입력합니다.
• destinationTable 속성에 대상 데이터 세트와 테이블을 입력합니다.
• writeDisposition 속성을 사용하여 데이터를 대상 테이블 또는 파티션에 추가할지 또는 덮어쓸지 지정합니다.

여러 파티션을 복사하려면 sourceTables 속성에 (데이터 세트와 테이블 이름을 포함한) 소스 파티션을 입력합니다.

콘솔

Google Cloud 콘솔에서는 파티션을 삭제할 수 없습니다.

SQL

적격한 DELETE 문이 파티션의 모든 행을 다루는 경우 BigQuery는 전체 파티션을 삭제합니다. 바이트를 스캔하거나 슬롯을 사용하지 않고도 삭제가 가능합니다. 다음 DELETE 문의 예시에서는 _PARTITIONDATE 유사 열에 있는 필터의 전체 파티션을 다룹니다.

1. Google Cloud 콘솔에서 BigQuery 페이지로 이동합니다.

   BigQuery로 이동

2. 쿼리 편집기에서 다음 문을 입력합니다.

   DELETE mydataset.mytable
   WHERE _PARTITIONDATE IN ('2076-10-07', '2076-03-06');

3. play_circle 실행을 클릭합니다.

쿼리를 실행하는 방법에 대한 자세한 내용은 대화형 쿼리 실행을 참조하세요.

bq

bq rm 명령어를 --table 플래그(또는 -t 단축키)와 함께 사용하고 파티션 데코레이터를 지정하여 특정 파티션을 삭제합니다.

bq rm --table project_id:dataset.table$partition

각 항목의 의미는 다음과 같습니다.

• project_id는 프로젝트 ID입니다. 생략하면 기본 프로젝트가 사용됩니다.
• dataset는 테이블이 포함된 데이터 세트의 이름입니다.
• table은 테이블의 이름입니다.
• partition는 삭제할 파티션의 파티션 데코레이터입니다.

파티션 데코레이터는 파티션 나누기 유형에 따라 다음과 같은 형식을 사용합니다.

• 시간별 파티션: yyyymmddhh. 예: $2016030100
• 일별 파티션: yyyymmdd. 예: $20160301
• 월별 파티션: yyyymm 예: $201603
• 연간 파티션: yyyy 예: $2016
• 정수 범위 파티션: 파티션 범위가 시작되는 부분입니다. 예: $20

bq 명령줄 도구에서 작업을 확인하라는 메시지가 표시됩니다. 확인을 건너뛰려면 --force 플래그(또는 -f 단축키)를 사용합니다.

예를 들면 다음과 같습니다.

기본 프로젝트에서 이름이 mydataset.mytable인 일별로 파티션을 나눈 테이블에서 2016년 3월 1일 파티션을 삭제합니다.

bq rm --table 'mydataset.mytable$20160301'

월별로 파티션을 나눈 테이블에서 2016년 3월 파티션을 삭제합니다.

bq rm --table 'mydataset.mytable$201603'

이름이 mydataset.mytable이고 정수 범위로 파티션을 나눈 테이블에서 정수 범위를 20부터 삭제합니다.

bq rm --table 'mydataset.mytable$20'

API

tables.delete 메서드를 호출하고 tableId 매개변수를 사용하여 테이블 및 파티션 데코레이터를 지정합니다.