Google Play 전송

Google Play용 BigQuery Data Transfer Service 커넥터를 사용하면 Google Play 보고 데이터의 반복되는 로드 작업을 자동으로 예약하고 관리할 수 있습니다.

지원되는 보고서

Google Play용 BigQuery Data Transfer Service는 다음과 같은 월별 보고 옵션을 지원합니다.

세부 보고서

• 리뷰
• 재무 보고서

집계 보고서

• 통계
• 사용자 획득

Google Play 보고서가 BigQuery 테이블로 변환되는 방식에 대한 자세한 내용은 Google Play 보고서 변환을 참조하세요.

Google Play 전송에서 데이터 수집

새로고침 기간

새로고침 기간은 데이터 전송이 발생할 때 데이터 전송이 데이터를 검색하는 일 수입니다. 예를 들어 새로고침 기간이 3일이고 일일 전송이 발생하는 경우 BigQuery Data Transfer Service는 소스 테이블에서 지난 3일 동안의 모든 데이터를 검색합니다. 이 예시에서 일일 전송이 발생하면 BigQuery Data Transfer Service는 현재 날짜의 소스 테이블 데이터 사본이 포함된 새 BigQuery 대상 테이블 파티션을 만든 다음 백필 실행을 자동으로 트리거하여 BigQuery 대상 테이블 파티션을 지난 2일 동안의 소스 테이블 데이터로 업데이트합니다. 자동으로 트리거된 백필 실행은 BigQuery Data Transfer Service 커넥터에서 증분 업데이트가 지원되는지 여부에 따라 BigQuery 대상 테이블을 덮어쓰거나 증분 업데이트합니다.

데이터 전송을 처음 실행하면 데이터 전송이 새로고침 기간 내에 사용 가능한 모든 소스 데이터를 검색합니다. 예를 들어 새로고침 기간이 3일이고 데이터 전송을 처음 실행하는 경우 BigQuery Data Transfer Service는 3일 이내에 모든 소스 데이터를 검색합니다.

새로고침 기간은 TransferConfig.data_refresh_window_days API 필드에 매핑됩니다.

새로고침 기간 외의 데이터(예: 이전 데이터)를 검색하거나 전송 중단 또는 불일치 문제를 해결하려면 백필 실행을 시작하거나 예약하면 됩니다.

제한사항

• 데이터 전송을 예약할 수 있는 최소 빈도는 24시간에 한 번입니다. 기본적으로 전송은 사용자가 전송을 만드는 시간에 시작됩니다. 하지만 전송을 설정할 때 전송 시작 시간을 구성할 수 있습니다.
• BigQuery Data Transfer Service는 Google Play 전송 중 증분 데이터 전송을 지원하지 않습니다. 데이터 전송에 대해 날짜를 지정하면 해당 날짜에 사용 가능한 모든 데이터가 전송됩니다.

시작하기 전에

Google Play 데이터 전송을 만들기 전에 다음을 수행하세요.

• BigQuery Data Transfer Service 사용 설정에 필요한 모든 작업을 완료했는지 확인합니다.
• Google Play 데이터를 저장할 BigQuery 데이터 세트를 만듭니다.
• Cloud Storage 버킷을 찾습니다.
  1. Google Play 콘솔에서 file_download 보고서 다운로드를 클릭하고 미리보기, 통계, 재무를 선택합니다.
  2. Cloud Storage 버킷의 ID를 복사하려면 content_copy Cloud Storage URI 복사를 클릭합니다. 버킷 ID는 gs://로 시작합니다. 예를 들어 검토 보고서의 경우 ID가 다음과 비슷합니다.

     gs://pubsite_prod_rev_01234567890987654321/reviews

  3. Google Play 데이터 전송의 경우 gs:// 및 /reviews 사이의 고유 ID만 복사해야 합니다.

     pubsite_prod_rev_01234567890987654321

• Pub/Sub의 전송 실행 알림을 설정하려면 pubsub.topics.setIamPolicy 권한이 있어야 합니다. 이메일 알림만 설정한다면 Pub/Sub 권한이 필요하지 않습니다. 자세한 내용은 BigQuery Data Transfer Service 실행 알림을 참조하세요.

필수 권한

• BigQuery: 데이터 전송을 만드는 사람에게 다음과 같은 BigQuery의 권한이 있는지 확인합니다.

  • 데이터 전송을 만드는 bigquery.transfers.update 권한
  • 대상 데이터 세트에 대한 bigquery.datasets.get 및 bigquery.datasets.update 권한

  사전 정의된 IAM 역할 bigquery.admin에는 bigquery.transfers.update, bigquery.datasets.update, bigquery.datasets.get 권한이 있습니다. BigQuery Data Transfer Service의 IAM 역할에 대한 자세한 내용은 액세스 제어를 확인하세요.

• Google Play: 다음과 같은 Google Play의 권한이 있는지 확인합니다.

  • Google Play Console에서 보고 액세스 권한이 있어야 합니다.

  Google Cloud팀은 사용자를 대신하여 Google Play 파일에 대한 액세스 권한을 생성하거나 부여할 수 없습니다. Google Play 파일 액세스에 관한 도움말은 Google Play 지원팀에 문의하기를 참조하세요.

Google Play 전송 설정

Google Play 데이터 전송 설정에 필요한 사항은 다음과 같습니다.

• Cloud Storage 버킷. Cloud Storage 버킷을 찾는 단계는 시작하기 전에 섹션에 설명되어 있습니다. Cloud Storage 버킷은 pubsite_prod_rev로 시작합니다. 예를 들면 pubsite_prod_rev_01234567890987654321입니다.
• 테이블 서픽스. 동일한 데이터세트에 로드되는 모든 데이터 소스에 사용하는 사용자 친화적인 이름입니다. 서픽스는 동일한 테이블에 개별 전송이 기록되는 경우를 방지하려는 목적으로 사용합니다. 테이블 서픽스는 같은 데이터세트에 데이터를 로드하는 모든 전송에서 고유해야 하며 결과 테이블 이름의 길이를 최소화하도록 짧은 서픽스를 사용해야 합니다.

Google Play 데이터 전송을 설정하려면 다음 안내를 따르세요.

bq mk \
--transfer_config \
--project_id=project_id \
--target_dataset=dataset \
--display_name=name \
--params='parameters' \
--data_source=data_source
--service_account_name=service_account_name

bq mk \
--transfer_config \
--target_dataset=mydataset \
--display_name='My Transfer' \
--params='{"bucket":"pubsite_prod_rev_01234567890987654321","table_suffix":"MT"}' \
--data_source=play

import com.google.api.gax.rpc.ApiException;
import com.google.cloud.bigquery.datatransfer.v1.CreateTransferConfigRequest;
import com.google.cloud.bigquery.datatransfer.v1.DataTransferServiceClient;
import com.google.cloud.bigquery.datatransfer.v1.ProjectName;
import com.google.cloud.bigquery.datatransfer.v1.TransferConfig;
import com.google.protobuf.Struct;
import com.google.protobuf.Value;
import java.io.IOException;
import java.util.HashMap;
import java.util.Map;

// Sample to create a play transfer config.
public class CreatePlayTransfer {

  public static void main(String[] args) throws IOException {
    // TODO(developer): Replace these variables before running the sample.
    final String projectId = "MY_PROJECT_ID";
    String datasetId = "MY_DATASET_ID";
    String bucket = "gs://cloud-sample-data";
    String tableSuffix = "_test";
    Map<String, Value> params = new HashMap<>();
    params.put("bucket", Value.newBuilder().setStringValue(bucket).build());
    params.put("table_suffix", Value.newBuilder().setStringValue(tableSuffix).build());
    TransferConfig transferConfig =
        TransferConfig.newBuilder()
            .setDestinationDatasetId(datasetId)
            .setDisplayName("Your Play Config Name")
            .setDataSourceId("play")
            .setParams(Struct.newBuilder().putAllFields(params).build())
            .build();
    createPlayTransfer(projectId, transferConfig);
  }

  public static void createPlayTransfer(String projectId, TransferConfig transferConfig)
      throws IOException {
    try (DataTransferServiceClient client = DataTransferServiceClient.create()) {
      ProjectName parent = ProjectName.of(projectId);
      CreateTransferConfigRequest request =
          CreateTransferConfigRequest.newBuilder()
              .setParent(parent.toString())
              .setTransferConfig(transferConfig)
              .build();
      TransferConfig config = client.createTransferConfig(request);
      System.out.println("play transfer created successfully :" + config.getName());
    } catch (ApiException ex) {
      System.out.print("play transfer was not created." + ex.toString());
    }
  }
}

Google Play 전송 설정 문제 해결

데이터 전송을 설정하는 데 문제가 있으면 BigQuery Data Transfer Service 전송 설정 문제 해결을 참조하세요.

데이터 쿼리

BigQuery로 전송되는 데이터는 내부 데이터화 시간별로 파티션을 나눈 테이블에 기록됩니다. 자세한 내용은 파티션을 나눈 테이블 소개를 참조하세요.

자동 생성된 뷰를 사용하지 않고 직접 테이블을 쿼리하는 경우에는 쿼리에서 _PARTITIONTIME 유사 열을 사용해야 합니다. 자세한 내용은 파티션을 나눈 테이블 쿼리를 참조하세요.

가격 책정

Google Play 데이터 전송 가격 책정에 대한 자세한 내용은 가격 책정 페이지를 참조하세요.

데이터가 BigQuery로 전송되면 표준 BigQuery 스토리지와 쿼리 가격 책정이 적용됩니다.

다음 단계

• Google Play 보고서가 BigQuery로 전송되는 방법은 Google Play 보고서 변환을 참조하세요.
• BigQuery Data Transfer Service 개요는 BigQuery Data Transfer Service 소개를 참조하세요.
• 전송 구성 정보 가져오기, 전송 구성 나열, 전송 실행 기록 보기를 포함한 전송 사용에 대한 정보는 전송 작업을 참조하세요.