YouTube 채널 전송

YouTube 커넥터용 BigQuery Data Transfer Service를 사용하면 YouTube 채널 보고서와 관련한 반복적인 로드 작업을 자동으로 예약하고 관리할 수 있습니다.

지원되는 보고서

• 채널 보고서(BigQuery에 자동으로 로드됨)

YouTube 채널 보고서용 BigQuery Data Transfer Service는 다음과 같은 보고 옵션을 지원합니다.

YouTube 채널 보고서가 BigQuery 테이블 및 뷰로 전송되는 방식에 대한 자세한 내용은 YouTube 채널 보고서 변환을 참조하세요.

YouTube 채널 전송에서 데이터 수집

새로고침 기간

새로고침 기간은 데이터 전송이 발생할 때 데이터 전송이 데이터를 검색하는 일 수입니다. 예를 들어 새로고침 기간이 3일이고 일일 전송이 발생하는 경우 BigQuery Data Transfer Service는 소스 테이블에서 지난 3일 동안의 모든 데이터를 검색합니다. 이 예시에서 일일 전송이 발생하면 BigQuery Data Transfer Service는 현재 날짜의 소스 테이블 데이터 사본이 포함된 새 BigQuery 대상 테이블 파티션을 만든 다음 백필 실행을 자동으로 트리거하여 BigQuery 대상 테이블 파티션을 지난 2일 동안의 소스 테이블 데이터로 업데이트합니다. 자동으로 트리거된 백필 실행은 BigQuery Data Transfer Service 커넥터에서 증분 업데이트가 지원되는지 여부에 따라 BigQuery 대상 테이블을 덮어쓰거나 증분 업데이트합니다.

데이터 전송을 처음 실행하면 데이터 전송이 새로고침 기간 내에 사용 가능한 모든 소스 데이터를 검색합니다. 예를 들어 새로고침 기간이 3일이고 데이터 전송을 처음 실행하는 경우 BigQuery Data Transfer Service는 3일 이내에 모든 소스 데이터를 검색합니다.

새로고침 기간은 TransferConfig.data_refresh_window_days API 필드에 매핑됩니다.

새로고침 기간 외의 데이터(예: 이전 데이터)를 검색하거나 전송 중단 또는 불일치 문제를 해결하려면 백필 실행을 시작하거나 예약하면 됩니다.

제한사항

• 각 보고서에 지원되는 최대 파일 크기는 1,710GB입니다.
• 데이터 전송을 예약할 수 있는 최소 빈도는 24시간에 한 번입니다. 기본적으로 데이터 전송은 사용자가 전송을 만드는 시간에 시작됩니다. 하지만 전송을 설정할 때 데이터 전송 시작 시간을 구성할 수 있습니다.
• BigQuery Data Transfer Service는 YouTube 콘텐츠 소유자 전송 중 증분 데이터 전송을 지원하지 않습니다. 데이터 전송에 대해 날짜를 지정하면 해당 날짜에 사용 가능한 모든 데이터가 전송됩니다.
• 제휴 ID로 로그인한 경우 YouTube 채널 데이터 전송을 만들 수 없습니다. Google 계정을 사용해서 로그인한 상태에서만 YouTube 채널 전송을 만들 수 있습니다.

시작하기 전에

YouTube 채널 데이터 전송을 생성하기 전에 다음을 수행하세요.

• BigQuery Data Transfer Service 사용 설정에 필요한 모든 작업을 완료했는지 확인합니다.
• YouTube 데이터를 저장할 BigQuery 데이터세트를 만듭니다.

필수 권한

YouTube 채널 데이터 전송을 만들려면 다음이 필요합니다.

• YouTube: YouTube 채널 소유권

• BigQuery: BigQuery의 다음 Identity and Access Management(IAM) 권한

  • 전송을 만들기 위한 bigquery.transfers.update
  • 대상 데이터 세트에 대한 bigquery.datasets.get 및 bigquery.datasets.update
  • Pub/Sub의 전송 실행 알림을 설정하려면 pubsub.topics.setIamPolicy 권한이 있어야 합니다. 이메일 알림만 설정한다면 Pub/Sub 권한이 필요하지 않습니다. 자세한 내용은 BigQuery Data Transfer Service 실행 알림을 참조하세요.

사전 정의된 IAM 역할 bigquery.admin에는 YouTube 채널 데이터 전송을 만드는 데 필요한 모든 BigQuery 권한이 포함됩니다. BigQuery에서 IAM 역할에 대한 자세한 내용은 사전 정의된 역할 및 권한을 참조하세요.

YouTube 채널 전송 설정

YouTube 채널 데이터 전송을 설정하려면 다음 요소가 필요합니다.

• 테이블 서픽스: 데이터 전송을 설정할 때 제공되는 사용자 친화적인 채널 이름입니다. 테이블 이름을 만들 때 이 서픽스가 작업 ID에 추가됩니다(예: reportTypeId_suffix). 서픽스는 동일한 테이블에 개별 전송이 기록되는 경우를 방지하려는 목적으로 사용합니다. 테이블 서픽스는 같은 데이터세트에 데이터를 로드하는 모든 전송에서 고유해야 하며 결과 테이블 이름의 길이를 최소화하도록 짧은 서픽스를 사용해야 합니다.

YouTube Reporting API를 사용하며 기존 보고 작업이 있다면 BigQuery Data Transfer Service는 사용자의 보고 데이터를 로드합니다. 기존 보고 작업이 없는 경우 전송을 설정하면 YouTube 보고 작업이 자동으로 사용 설정됩니다.

YouTube 채널 데이터 전송을 만들려면 다음 안내를 따르세요.

bq mk \
--transfer_config \
--project_id=project_id \
--target_dataset=dataset \
--display_name=name \
--params='parameters' \
--data_source=data_source

bq mk \
--transfer_config \
--target_dataset=mydataset \
--display_name='My Transfer' \
--params='{"table_suffix":"MT","configure_jobs":"true"}' \
--data_source=youtube_channel

import com.google.api.gax.rpc.ApiException;
import com.google.cloud.bigquery.datatransfer.v1.CreateTransferConfigRequest;
import com.google.cloud.bigquery.datatransfer.v1.DataTransferServiceClient;
import com.google.cloud.bigquery.datatransfer.v1.ProjectName;
import com.google.cloud.bigquery.datatransfer.v1.TransferConfig;
import com.google.protobuf.Struct;
import com.google.protobuf.Value;
import java.io.IOException;
import java.util.HashMap;
import java.util.Map;

// Sample to create youtube channel transfer config.
public class CreateYoutubeChannelTransfer {

  public static void main(String[] args) throws IOException {
    // TODO(developer): Replace these variables before running the sample.
    final String projectId = "MY_PROJECT_ID";
    String datasetId = "MY_DATASET_ID";
    String tableSuffix = "_test";
    Map<String, Value> params = new HashMap<>();
    params.put("table_suffix", Value.newBuilder().setStringValue(tableSuffix).build());
    TransferConfig transferConfig =
        TransferConfig.newBuilder()
            .setDestinationDatasetId(datasetId)
            .setDisplayName("Your Youtube Channel Config Name")
            .setDataSourceId("youtube_channel")
            .setParams(Struct.newBuilder().putAllFields(params).build())
            .build();
    createYoutubeChannelTransfer(projectId, transferConfig);
  }

  public static void createYoutubeChannelTransfer(String projectId, TransferConfig transferConfig)
      throws IOException {
    try (DataTransferServiceClient client = DataTransferServiceClient.create()) {
      ProjectName parent = ProjectName.of(projectId);
      CreateTransferConfigRequest request =
          CreateTransferConfigRequest.newBuilder()
              .setParent(parent.toString())
              .setTransferConfig(transferConfig)
              .build();
      TransferConfig config = client.createTransferConfig(request);
      System.out.println("Youtube channel transfer created successfully :" + config.getName());
    } catch (ApiException ex) {
      System.out.print("Youtube channel transfer was not created." + ex.toString());
    }
  }
}

데이터 쿼리

BigQuery로 전송되는 데이터는 내부 데이터화 시간별로 파티션을 나눈 테이블에 기록됩니다. 자세한 내용은 파티션을 나눈 테이블 소개를 참조하세요.

자동 생성된 뷰를 사용하지 않고 직접 테이블을 쿼리하는 경우에는 쿼리에서 _PARTITIONTIME 유사 열을 사용해야 합니다. 자세한 내용은 파티션을 나눈 테이블 쿼리를 참조하세요.

YouTube 채널 전송 설정 문제 해결

전송을 설정하는 데 문제가 있다면 전송 구성 문제 해결의 YouTube 전송 문제를 참조하세요.