Configurare impostazioni aggiuntive della tabella

Questo documento mostra come configurare impostazioni aggiuntive della tabella in un file di definizione della tabella. Con Dataform Core, puoi definire pre_operations e post_operations per eseguire un'istruzione SQL prima o dopo la creazione della tabella. Puoi anche ignorare le impostazioni della tabella, ad esempio database o schema, e disattivare la creazione della tabella.

Prima di iniziare

  1. Nella console Google Cloud , vai alla pagina Dataform.

    Vai a Dataform

  2. Seleziona o crea un repository.

  3. Seleziona o crea un workspace di sviluppo.

  4. Crea una tabella.

Ruoli obbligatori

Per ottenere le autorizzazioni necessarie per configurare impostazioni aggiuntive della tabella, chiedi all'amministratore di concederti il ruolo IAM Editor Dataform (roles/dataform.editor) negli spazi di lavoro. Per saperne di più sulla concessione dei ruoli, consulta Gestisci l'accesso a progetti, cartelle e organizzazioni.

Potresti anche riuscire a ottenere le autorizzazioni richieste tramite i ruoli personalizzati o altri ruoli predefiniti.

Esegui l'override delle impostazioni della tabella

Puoi ignorare lo schema, il database e il nome di una tabella selezionata.

Per impostazione predefinita, una tabella segue la configurazione dello schema e del database impostata in workflow_settings.yaml. Il nome di una tabella corrisponde al nome del file SQLX di definizione della tabella.

Per ignorare lo schema e il nome di una tabella selezionata:

  1. Vai al tuo workspace di sviluppo.

  2. Nel riquadro File, espandi definitions/.

  3. Apri un file di definizione della tabella SQLX.

  4. Nel blocco config, inserisci il seguente snippet di codice:

     {
   schema: "OVERRIDDEN_SCHEMA",
   database: "OVERRIDDEN_DATABASE",
   name: "OVERRIDDEN_NAME"
 }

    Sostituisci quanto segue:

    • OVERRIDDEN_SCHEMA: il set di dati BigQuery in cui vuoi creare la tabella

    • OVERRIDDEN_DATABASE: l'ID del progetto BigQuery in cui vuoi creare la tabella

    • OVERRIDDEN_NAME: il nome della tabella, diverso dal nome del file di definizione della tabella SQLX

  5. (Facoltativo) Fai clic su Formato.

Fare riferimento a una tabella con un nome tabella sottoposto a override

  • Per fare riferimento a una tabella con un nome di tabella sottoposto a override, nella funzione ref, inserisci il nome della tabella sottoposto a override impostato in name: "".

Il seguente esempio di codice fa riferimento a una tabella con nome sostituito da overridden_name:

  SELECT * FROM ${ref("overridden_name")}

Definisci un'istruzione SQL da eseguire prima della creazione della tabella

Puoi configurare Dataform per eseguire una o più istruzioni SQL prima di creare una tabella selezionata in BigQuery. Per eseguire un'istruzione SQL prima che Dataform crei una tabella selezionata, aggiungi l'istruzione al blocco pre_operations nel file SQLX di definizione della tabella.

Per creare un'istruzione SQL personalizzata eseguita prima che Dataform crei una tabella specifica:

  1. Vai al tuo workspace di sviluppo.

  2. Nel riquadro File, espandi definitions/.

  3. Apri un file di definizione della tabella SQLX.

  4. Al di fuori del blocco config, inserisci pre_operations { ... }.

  5. All'interno di pre_operations { ... }, aggiungi l'istruzione SQL.

  6. (Facoltativo) Per aggiungere più istruzioni, separale con ---.

  7. (Facoltativo) Fai clic su Formato.

Il seguente esempio di codice mostra un'istruzione pre_operations che crea una funzione temporanea che può essere utilizzata nell'istruzione SELECT:

  pre_operations {
    CREATE TEMP FUNCTION AddFourAndDivide(x INT64, y INT64)
      RETURNS FLOAT64
      AS ((x + 4) / y);
  }

Definisci un'istruzione SQL da eseguire dopo la creazione della tabella

Puoi configurare Dataform per eseguire una o più istruzioni SQL dopo aver creato una tabella selezionata in BigQuery. Per eseguire un'istruzione SQL dopo che Dataform crea una tabella selezionata, aggiungi l'istruzione al blocco post_operations nel file SQLX di definizione della tabella. Puoi aggiungere più istruzioni SQL al blocco post_operations.

Per creare un'istruzione SQL personalizzata eseguita dopo che Dataform crea una tabella specifica:

  1. Vai al tuo workspace di sviluppo.

  2. Nel riquadro File, espandi definitions/.

  3. Apri un file di definizione della tabella SQLX.

  4. Al di fuori del blocco config, inserisci post_operations { ... }.

  5. All'interno di post_operations { ... }, aggiungi l'istruzione SQL.

  6. (Facoltativo) Fai clic su Formato.

Il seguente esempio di codice mostra le istruzioni post_operations che concedono ai gruppi l'accesso alla tabella creata:

    post_operations {
      GRANT `roles/bigquery.dataViewer`
      ON
      TABLE ${self()}
      TO "group:allusers@example.com", "user:otheruser@example.com"
    }

Disattivare la creazione di tabelle

Per impedire a Dataform di creare una tabella selezionata in BigQuery, puoi disattivarla nel relativo file di definizione della tabella SQLX. Dataform mantiene una tabella disattivata nel grafico delle dipendenze, ma non la compila e non la crea. Ciò può essere utile, ad esempio, se una tabella non funziona e non vuoi che l'intero flusso di lavoro non funzioni mentre risolvi il problema.

Per disattivare una tabella:

  1. Vai al tuo workspace di sviluppo.

  2. Nel riquadro File, espandi definitions/.

  3. Seleziona un file di definizione della tabella SQLX.

  4. Nel blocco config del file, inserisci disabled: true.

  5. (Facoltativo) Fai clic su Formato.

Il seguente esempio di codice mostra una tabella disattivata:

  config {
    type: "table",
    disabled: true
  }

  select * from ${ref("source_data")}

Passaggi successivi