Eseguire il feature engineering con la clausola TRANSFORM

Passaggio 1: crea il set di dati

Crea un set di dati BigQuery per archiviare il tuo modello ML:

1. Nella console Google Cloud, vai alla pagina BigQuery.

   Vai alla pagina BigQuery

2. Nel riquadro Explorer, fai clic sul nome del progetto.

3. Fai clic su more_vert Visualizza azioni > Crea set di dati.

   

4. Nella pagina Crea set di dati:

   • In ID set di dati, inserisci bqml_tutorial.

   • Per Tipo di località, seleziona Più regioni e poi Stati Uniti (più regioni negli Stati Uniti).

     I set di dati pubblici sono archiviati nella US multiregione. Per semplicità, archivia il set di dati nella stessa posizione.

   • Lascia invariate le restanti impostazioni predefinite e fai clic su Crea set di dati.

     

Passaggio 2: crea il modello

Ora crea un modello di regressione lineare utilizzando la tabella di campioni per la natalità per BigQuery. La seguente query GoogleSQL viene utilizzata per creare il modello che utilizzerai per prevedere il peso alla nascita di un bambino.

#standardSQL
CREATE MODEL `bqml_tutorial.natality_model`
TRANSFORM(weight_pounds,
    is_male,
    gestation_weeks,
    ML.QUANTILE_BUCKETIZE(mother_age,
      5) OVER() AS bucketized_mother_age,
    CAST(mother_race AS string) AS mother_race,
    ML.FEATURE_CROSS(STRUCT(is_male,
        CAST(mother_race AS STRING) AS mother_race)) is_male_mother_race)
OPTIONS
  (model_type='linear_reg',
    input_label_cols=['weight_pounds']) AS
SELECT
  *
FROM
  `bigquery-public-data.samples.natality`
WHERE
  weight_pounds IS NOT NULL
  AND RAND() < 0.001

Oltre a creare il modello, il comando CREATE MODEL addestra il modello creato.

Dettagli query

La clausola CREATE MODEL viene utilizzata per creare e addestrare il modello denominato bqml_tutorial.natality_model.

La clausola OPTIONS(model_type='linear_reg', input_label_cols=['weight_pounds']) indica che stai creando un modello di regressione lineare. Una regressione lineare è un tipo di modello di regressione che genera un valore continuo da una combinazione lineare di caratteristiche di input. La colonna weight_pounds è la colonna dell'etichetta di input. Per i modelli di regressione lineare, la colonna dell'etichetta deve avere valori reali (ovvero i valori della colonna devono essere numeri reali).

La clausola TRANSFORM di questa query utilizza le seguenti colonne dell'istruzione SELECT:

• weight_pounds: il peso del bambino in libbre (FLOAT64).
• is_male: il sesso del bambino. TRUE se il bambino è maschio, FALSE se è femmina (BOOL).
• gestation_weeks: il numero di settimane di gravidanza (INT64).
• mother_age: l'età della madre al momento del parto (INT64).
• mother_race: la razza della madre (INT64). Questo valore intero è uguale al valore child_race nello schema della tabella. Per forzare BigQuery ML a trattare mother_race come una caratteristica non numerica, con ogni valore distinto che rappresenta una categoria diversa, la query esegue il casting di mother_race in una STRINGA. Questo è importante perché è più probabile che la razza abbia un significato maggiore come categoria rispetto a un numero intero, che ha un ordine e una scala.

Tramite la clausola TRANSFORM, le caratteristiche originali vengono pre-elaborate per essere inserite nell'addestramento. Le colonne generate sono:

• weight_pounds: superato così com'è, senza alcuna modifica.
• is_male: trasmesso al feed durante la formazione.
• gestation_weeks: trasmesso al feed durante la formazione.
• bucketized_mother_age: generato da mother_age mediante la suddivisione in bucket di mother_age in base ai quantili utilizzando la funzione analitica ML.QUANTILE_BUCKETIZE().
• mother_race: formato di stringa dell'mother_race originale.
• is_male_mother_race: generato dall'intersezione di is_male e mother_race utilizzando la funzione ML.FEATURE_CROSS.

L'istruzione SELECT della query fornisce le colonne che puoi utilizzare nella clausola TRANSFORM. Tuttavia, non è necessario utilizzare tutte le colonne nella clausola TRANSFORM. Di conseguenza, puoi eseguire sia la selezione delle funzionalità sia la preelaborazione all'interno della clausola TRANSFORM.

La clausola FROM, bigquery-public-data.samples.natality, indica che stai eseguendo query sulla tabella di esempio natalità nel set di dati samples. Questo set di dati si trova nel progetto bigquery-public-data.

La clausola WHERE, WHERE weight_pounds IS NOT NULL AND RAND() < 0.001, esclude le righe in cui il peso è NULL e utilizza la funzione RAND per estrarre un campione casuale dei dati.

Esegui la query CREATE MODEL

Per eseguire la query CREATE MODEL in modo da creare e addestrare il modello:

1. Nella console Google Cloud, fai clic sul pulsante Crea nuova query.

2. Inserisci la seguente query GoogleSQL nell'area di testo Editor query.

   #standardSQL
   CREATE MODEL `bqml_tutorial.natality_model`
   TRANSFORM(weight_pounds,
       is_male,
       gestation_weeks,
       ML.QUANTILE_BUCKETIZE(mother_age,
         5) OVER() AS bucketized_mother_age,
       CAST(mother_race AS string) AS mother_race,
       ML.FEATURE_CROSS(STRUCT(is_male,
           CAST(mother_race AS STRING) AS mother_race)) is_male_mother_race)
   OPTIONS
     (model_type='linear_reg',
       input_label_cols=['weight_pounds']) AS
   SELECT
     *
   FROM
     `bigquery-public-data.samples.natality`
   WHERE
     weight_pounds IS NOT NULL
     AND RAND() < 0.001

3. Fai clic su Esegui.

   Il completamento della query richiede circa 30 secondi, dopodiché il tuo modello (natality_model) viene visualizzato nel pannello di navigazione. Poiché la query utilizza un'istruzione CREATE MODEL per creare una tabella, non vengono visualizzati i risultati della query.

(Facoltativo) Passaggio 3: ottieni le statistiche di addestramento

Per visualizzare i risultati dell'addestramento del modello, puoi utilizzare la funzione ML.TRAINING_INFO o visualizzare le statistiche nella console Google Cloud. In questo tutorial utilizzi la console Google Cloud.

Un algoritmo di machine learning crea un modello esaminando molti esempi e tentando di trovare un modello che minimizzi la perdita. Questo processo è noto come minimizzazione empirica del rischio.

La perdita è la penalità per una previsione errata: un numero che indica quanto fosse negativa la previsione del modello su un singolo esempio. Se la previsione del modello è perfetta, la perdita è zero; in caso contrario, la perdita è maggiore. L'obiettivo dell'addestramento di un modello è trovare un insieme di ponderazioni e bias che presentino, in media, una perdita lieve in tutti gli esempi.

Per visualizzare le statistiche di addestramento del modello generate durante l'esecuzione della queryCREATE MODEL:

1. Nel pannello di navigazione della console Google Cloud, nella sezione Risorse, espandi project-name > bqml_tutorial e poi fai clic su natality_model.

2. Fai clic sulla scheda Addestramento e seleziona l'opzione Tabella per Visualizza come. I risultati dovrebbero essere simili ai seguenti:

   +-----------+--------------------+----------------------+--------------------+
   | Iteration | Training data loss | Evaluation data loss | Duration (seconds) |
   +-----------+--------------------+----------------------+--------------------+
   | 0         | 1.6640             | 1.7352               | 6.27               |
   +-----------+--------------------+----------------------+--------------------+
   

   La colonna Perdita di dati di addestramento rappresenta la metrica relativa alla perdita calcolata dopo che il modello è stato addestrato sul set di dati di addestramento. Poiché hai eseguito una regressione lineare, questa colonna rappresenta l'errore quadratico medio.

   La colonna Perdita di dati di valutazione è la stessa metrica di perdita calcolata sul set di dati di esclusione (dati esclusi dall'addestramento per convalidare il modello). La strategia di ottimizzazione predefinita utilizzata per l'addestramento è "normal_equation", pertanto è necessaria una sola iterazione per convergere al modello finale.

   Per ulteriori informazioni sull'opzione optimize_strategy, consulta la istruzione CREATE MODEL.

   Per ulteriori informazioni sulla funzione ML.TRAINING_INFO e sull'opzione di addestramento "optimize_strategy", consulta il riferimento per la sintassi di BigQuery ML.

Passaggio 4: valuta il modello

Dopo aver creato il modello, valuterai le prestazioni del classificatore utilizzando la funzione ML.EVALUATE. La funzione ML.EVALUATE valuta i valori previsti rispetto ai dati effettivi.

La query utilizzata per valutare il modello è la seguente:

#standardSQL
SELECT
  *
FROM
  ML.EVALUATE(MODEL `bqml_tutorial.natality_model`,
    (
    SELECT
      *
    FROM
      `bigquery-public-data.samples.natality`
    WHERE
      weight_pounds IS NOT NULL))

Dettagli query

L'istruzione SELECT superiore recupera le colonne dal modello.

La clausola FROM utilizza la funzione ML.EVALUATE rispetto al tuo modello: bqml_tutorial.natality_model.

L'istruzione SELECT e la clausola FROM nidificate di questa query sono le stesse della query CREATE MODEL. Poiché la clausola TRANSFORM viene utilizzata nell'addestramento, non è necessario specificare le colonne e le trasformazioni specifiche. Vengono ripristinati automaticamente.

La clausola WHERE,WHERE weight_pounds IS NOT NULL, esclude le righe in cui il peso è NULL.

#standardSQL
SELECT
  *
FROM
  ML.EVALUATE(MODEL `bqml_tutorial.natality_model`)

Esegui la query ML.EVALUATE

Per eseguire la query ML.EVALUATE che valuta il modello, completa i seguenti passaggi:

1. Nella console Google Cloud, fai clic sul pulsante Crea nuova query.

2. Inserisci la seguente query GoogleSQL nell'area di testo Editor query.

   #standardSQL
   SELECT
     *
   FROM
     ML.EVALUATE(MODEL `bqml_tutorial.natality_model`,
       (
       SELECT
         *
       FROM
         `bigquery-public-data.samples.natality`
       WHERE
         weight_pounds IS NOT NULL))

3. (Facoltativo) Per impostare la località di elaborazione, nell'elenco a discesa settings_applicationsAltro, fai clic su Impostazioni query. In Località di elaborazione, scegli Stati Uniti (US). Questo passaggio è facoltativo perché la posizione di elaborazione viene rilevata automaticamente in base alla posizione del set di dati.

   

4. Fai clic su Esegui.

5. Una volta completata la query, fai clic sulla scheda Risultati sotto l'area di testo della query. I risultati dovrebbero essere simili ai seguenti:

   +---------------------+--------------------+------------------------+---------------------+---------------------+----------------------+
   | mean_absolute_error | mean_squared_error | mean_squared_log_error | mean_absolute_error | r2_score            | explained_variance   |
   +---------------------+--------------------+------------------------+---------------------+---------------------+----------------------+
   | 0.9566580179970666  | 1.6756289722442677 | 0.034241471462096516   | 0.7385590721661188  | 0.04650972930257946 | 0.046516832131241026 |
   +---------------------+--------------------+------------------------+---------------------+---------------------+----------------------+
   

   Poiché hai eseguito una regressione lineare, i risultati includono le seguenti colonne:

   • mean_absolute_error
   • mean_squared_error
   • mean_squared_log_error
   • median_absolute_error
   • r2_score
   • explained_variance

Una metrica importante nei risultati della valutazione è il coefficiente R². Il coefficiente R² è una misura statistica che determina se le predizioni della regressione lineare si avvicinano ai dati effettivi. Un valore 0 indica che il modello non spiega nessuna delle variabilità dei dati di risposta intorno alla media. Un valore 1 indica che il modello spiega tutta la variabilità dei dati di risposta attorno alla media.

Passaggio 5: utilizza il modello per prevedere i risultati

Ora che hai valutato il modello, il passaggio successivo consiste nell'utilizzarlo per prevedere un risultato. Puoi utilizzare il tuo modello per prevedere il peso alla nascita di tutti i bambini nati in Wyoming.

La query utilizzata per prevedere il risultato è la seguente:

#standardSQL
SELECT
  predicted_weight_pounds
FROM
  ML.PREDICT(MODEL `bqml_tutorial.natality_model`,
    (
    SELECT
      *
    FROM
      `bigquery-public-data.samples.natality`
    WHERE
      state = "WY"))

Dettagli query

L'istruzione SELECT più in alto recupera la colonna predicted_weight_pounds. Questa colonna viene generata dalla funzione ML.PREDICT. Quando utilizzi la funzione ML.PREDICT, il nome della colonna di output per il modello è predicted_label_column_name. Per i modelli di regressione lineare, predicted_label è il valore stimato di label. Per i modelli di regressione logistica, predicted_label è una delle due etichette di input a seconda di quale etichetta ha la probabilità prevista più elevata.

La funzione ML.PREDICT viene utilizzata per prevedere i risultati mediante il modello bqml_tutorial.natality_model.

L'istruzione SELECT e la clausola FROM nidificate di questa query sono le stesse della query CREATE MODEL. Tieni presente che non è necessario specificare necessariamente tutte le colonne come durante l'addestramento e sono obbligatorie solo quelle utilizzate nella clausola TRANSFORM. Come per ML.EVALUATE, le trasformazioni all'interno di TRANSFORM vengono ripristinate automaticamente.

La clausola WHERE, WHERE state = "WY", indica che stai limitando la previsione allo stato del Wyoming.

Esegui la query ML.PREDICT

Per eseguire la query che utilizza il modello per prevedere un risultato:

1. Nella console Google Cloud, fai clic sul pulsante Crea nuova query.

2. Inserisci la seguente query GoogleSQL nell'area di testo Editor query.

   #standardSQL
   SELECT
     predicted_weight_pounds
   FROM
     ML.PREDICT(MODEL `bqml_tutorial.natality_model`,
       (
       SELECT
         *
       FROM
         `bigquery-public-data.samples.natality`
       WHERE
         state = "WY"))

3. (Facoltativo) Per impostare la località di elaborazione, nell'elenco a discesa settings_applicationsAltro, fai clic su Impostazioni query. In Località di elaborazione, scegli Stati Uniti (US). Questo passaggio è facoltativo perché la posizione di elaborazione viene rilevata automaticamente in base alla posizione del set di dati.

   

4. Fai clic su Esegui.

5. Una volta completata la query, fai clic sulla scheda Risultati sotto l'area di testo della query. I risultati dovrebbero essere simili ai seguenti:

   +----------------------------+
   | predicted_weight_pounds    |
   +----------------------------+
   |  7.735962399307027         |
   +----------------------------+
   |  7.728855793480761         |
   +----------------------------+
   |  7.383850250400428         |
   +----------------------------+
   | 7.4132677633242565         |
   +----------------------------+
   |  7.734971309702814         |
   +----------------------------+