Statistiche sulle transazioni

Spanner fornisce tabelle integrate che memorizzano le statistiche sulle transazioni. Puoi recuperare le statistiche da queste tabelle SPANNER_SYS.TXN_STATS* utilizzando istruzioni SQL.

Quando utilizzare le statistiche sulle transazioni

Le statistiche sulle transazioni sono utili per analizzare i problemi di rendimento. Ad esempio, puoi verificare se ci sono transazioni a esecuzione lenta che potrebbero influire sul rendimento o sulle query al secondo (QPS) nel tuo database. Un altro scenario si verifica quando le applicazioni client riscontrano un'elevata latenza di esecuzione delle transazioni. L'analisi delle statistiche sulle transazioni può aiutarti a scoprire potenziali colli di bottiglia, ad esempio grandi volumi di aggiornamenti a una determinata colonna, che potrebbero influire sulla latenza.

Accedere alle statistiche sulle transazioni

Spanner fornisce le statistiche sulle transazioni della tabella nello schema SPANNER_SYS. Puoi utilizzare i seguenti metodi per accedere ai dati di SPANNER_SYS:

• La pagina Spanner Studio di un database nella console Google Cloud .

• Il comando gcloud spanner databases execute-sql.

• La dashboard Approfondimenti sulle transazioni.

• Il metodo executeSql o executeStreamingSql.

I seguenti metodi di lettura singola forniti da Spanner non supportano SPANNER_SYS:

• Esecuzione di una lettura coerente da una o più righe di una tabella.
• Esecuzione di una lettura obsoleta da una o più righe di una tabella.
• Lettura da una singola riga o da più righe in un indice secondario.

Statistiche sulla latenza raggruppate per transazione

Le tabelle seguenti monitorano le statistiche per le transazioni che consumano risorse TOP durante un periodo di tempo specifico.

• SPANNER_SYS.TXN_STATS_TOP_MINUTE: Statistiche sulle transazioni aggregate in intervalli di 1 minuto.

• SPANNER_SYS.TXN_STATS_TOP_10MINUTE: Statistiche sulle transazioni aggregate in intervalli di 10 minuti.

• SPANNER_SYS.TXN_STATS_TOP_HOUR: Statistiche sulle transazioni aggregate in intervalli di 1 ora.

Queste tabelle hanno le seguenti proprietà:

• Ogni tabella contiene dati per intervalli di tempo non sovrapposti della durata specificata dal nome della tabella.

• Gli intervalli si basano sugli orari. Gli intervalli di 1 minuto terminano al minuto, gli intervalli di 10 minuti terminano ogni 10 minuti a partire dall'ora e gli intervalli di 1 ora terminano all'ora.

  Ad esempio, alle 11:59:30, gli intervalli più recenti disponibili per le query SQL sono:

  • 1 minuto: 11:58:00–11:58:59
  • 10 minuti: 11:40:00 - 11:49:59
  • 1 ora: 10:00:00–10:59:59

• Spanner raggruppa le statistiche per FPRINT (impronta) delle transazioni. Se è presente un tag transazione, FPRINT è l'hash del tag. In caso contrario, è l'hash calcolato in base alle operazioni coinvolte nella transazione.

• Poiché le statistiche sono raggruppate in base a FPRINT, se la stessa transazione viene eseguita più volte in un intervallo di tempo, nelle tabelle viene visualizzata una sola voce per quella transazione.

• Ogni riga contiene statistiche per tutte le esecuzioni di una determinata transazione per cui Spanner acquisisce statistiche durante l'intervallo specificato.

• Se Spanner non è in grado di archiviare le statistiche per tutte le transazioni eseguite durante l'intervallo in queste tabelle, il sistema dà la priorità alle transazioni con la latenza, i tentativi di commit e i byte scritti più elevati durante l'intervallo specificato.

• Tutte le colonne delle tabelle sono annullabili.

Schema tabella

¹ _exists è un campo interno utilizzato per verificare l'esistenza o meno di una determinata riga.

Esempi di query

Questa sezione include diversi esempi di istruzioni SQL che recuperano le statistiche sulle transazioni. Puoi eseguire queste istruzioni SQL utilizzando le librerie client, gcloud spanner o la Google Cloud console.

Elenca le statistiche di base per ogni transazione in un determinato periodo di tempo

La seguente query restituisce i dati non elaborati per le transazioni principali del minuto precedente.

SELECT fprint,
       read_columns,
       write_constructive_columns,
       write_delete_tables,
       avg_total_latency_seconds,
       avg_commit_latency_seconds,
       operations_by_table,
       avg_bytes
FROM spanner_sys.txn_stats_top_minute
WHERE interval_end =
  (SELECT MAX(interval_end)
   FROM spanner_sys.txn_stats_top_minute);

Output della query

Elenca le transazioni con la latenza di commit media più elevata

La seguente query restituisce le transazioni con latenza di commit media elevata nell'ora precedente, ordinate dalla latenza di commit media più alta a quella più bassa.

SELECT fprint,
       read_columns,
       write_constructive_columns,
       write_delete_tables,
       avg_total_latency_seconds,
       avg_commit_latency_seconds,
       avg_bytes
FROM spanner_sys.txn_stats_top_hour
WHERE interval_end =
  (SELECT MAX(interval_end)
   FROM spanner_sys.txn_stats_top_hour)
ORDER BY avg_commit_latency_seconds DESC;

Output della query

Trovare la latenza media delle transazioni che leggono determinate colonne

La seguente query restituisce le informazioni sulla latenza media per le transazioni che leggono la colonna ADDRESS dalle statistiche di 1 ora:

SELECT fprint,
       read_columns,
       write_constructive_columns,
       write_delete_tables,
       avg_total_latency_seconds
FROM spanner_sys.txn_stats_top_hour
WHERE 'ADDRESS' IN UNNEST(read_columns)
ORDER BY avg_total_latency_seconds DESC;

Output della query

Elenca le transazioni in base al numero medio di byte modificati

La seguente query restituisce le transazioni campionate nell'ultima ora, ordinate in base al numero medio di byte modificati dalla transazione.

SELECT fprint,
       read_columns,
       write_constructive_columns,
       write_delete_tables,
       avg_bytes
FROM spanner_sys.txn_stats_top_hour
ORDER BY avg_bytes DESC;

Output della query

Statistiche aggregate

SPANNER_SYS contiene anche tabelle per archiviare i dati aggregati per tutte le transazioni per le quali Spanner ha acquisito statistiche in un periodo di tempo specifico:

• SPANNER_SYS.TXN_STATS_TOTAL_MINUTE: statistiche aggregate per tutte le transazioni durante intervalli di 1 minuto
• SPANNER_SYS.TXN_STATS_TOTAL_10MINUTE: statistiche aggregate per tutte le transazioni durante intervalli di 10 minuti
• SPANNER_SYS.TXN_STATS_TOTAL_HOUR: statistiche aggregate per tutte le transazioni durante intervalli di 1 ora

Le tabelle delle statistiche aggregate hanno le seguenti proprietà:

• Ogni tabella contiene dati per intervalli di tempo non sovrapposti della durata specificata dal nome della tabella.

• Gli intervalli si basano sugli orari. Gli intervalli di 1 minuto terminano al minuto, gli intervalli di 10 minuti terminano ogni 10 minuti a partire dall'ora e gli intervalli di 1 ora terminano all'ora.

  Ad esempio, alle 11:59:30, gli intervalli più recenti disponibili per le query SQL sulle statistiche aggregate delle transazioni sono:

  • 1 minuto: 11:58:00–11:58:59
  • 10 minuti: 11:40:00 - 11:49:59
  • 1 ora: 10:00:00–10:59:59

• Ogni riga contiene le statistiche di tutte le transazioni eseguite nel database durante l'intervallo specificato, aggregate insieme. C'è una sola riga per intervallo di tempo.

• Le statistiche acquisite nelle tabelle SPANNER_SYS.TXN_STATS_TOTAL_* potrebbero includere transazioni che Spanner non ha acquisito nelle tabelle SPANNER_SYS.TXN_STATS_TOP_*.

• Alcune colonne di queste tabelle vengono esposte come metriche in Cloud Monitoring. Le metriche esposte sono:

  • Numero di tentativi di commit
  • Conteggio dei nuovi tentativi di commit
  • Partecipanti alla transazione
  • Latenze transazione
  • Byte scritti

  Per ulteriori informazioni, consulta la sezione Metriche di Spanner.

Schema tabella

Esempi di query

Questa sezione include diversi esempi di istruzioni SQL che recuperano le statistiche sulle transazioni. Puoi eseguire queste istruzioni SQL utilizzando le librerie client, gcloud spanner o la Google Cloud console.

Trova il numero totale di tentativi di commit per tutte le transazioni

La seguente query restituisce il numero totale di tentativi di commit per tutte le transazioni nell'intervallo di 1 minuto completo più recente:

SELECT interval_end,
       commit_attempt_count
FROM spanner_sys.txn_stats_total_minute
WHERE interval_end =
  (SELECT MAX(interval_end)
   FROM spanner_sys.txn_stats_total_minute)
ORDER BY interval_end;

Output della query

Tieni presente che nel risultato è presente una sola riga perché le statistiche aggregate hanno una sola voce per interval_end per qualsiasi durata di tempo.

Trovare la latenza totale di commit in tutte le transazioni

La seguente query restituisce la latenza totale di commit per tutte le transazioni negli ultimi 10 minuti:

SELECT (avg_commit_latency_seconds * commit_attempt_count / 60 / 60)
  AS total_commit_latency_hours
FROM spanner_sys.txn_stats_total_10minute
WHERE interval_end =
  (SELECT MAX(interval_end)
   FROM spanner_sys.txn_stats_total_10minute);

Output della query

Tieni presente che nel risultato è presente una sola riga perché le statistiche aggregate hanno una sola voce per interval_end per qualsiasi durata di tempo.

Trovare la latenza del 99° percentile per le transazioni

La seguente query restituisce la latenza del 99° percentile per le transazioni eseguite negli ultimi 10 minuti:

SELECT interval_end, avg_total_latency_seconds,
       SPANNER_SYS.DISTRIBUTION_PERCENTILE(total_latency_distribution[OFFSET(0)], 99.0)
  AS percentile_latency
FROM spanner_sys.txn_stats_total_10minute
WHERE interval_end =
  (SELECT MAX(interval_end)
   FROM spanner_sys.txn_stats_total_10minute)
ORDER BY interval_end;

Output della query

Nota la grande differenza tra la latenza media e quella del 99° percentile. La latenza del 99° percentile aiuta a identificare le possibili transazioni anomale con latenza elevata.

Nel risultato è presente una sola riga perché le statistiche aggregate hanno una sola voce per interval_end per qualsiasi durata di tempo.

Conservazione dei dati

Come minimo, Spanner conserva i dati per ogni tabella per i seguenti periodi di tempo:

• SPANNER_SYS.TXN_STATS_TOP_MINUTE e SPANNER_SYS.TXN_STATS_TOTAL_MINUTE: intervalli che coprono le 6 ore precedenti.

• SPANNER_SYS.TXN_STATS_TOP_10MINUTE e SPANNER_SYS.TXN_STATS_TOTAL_10MINUTE: intervalli che coprono i 4 giorni precedenti.

• SPANNER_SYS.TXN_STATS_TOP_HOUR e SPANNER_SYS.TXN_STATS_TOTAL_HOUR: intervalli che coprono i 30 giorni precedenti.

Le statistiche sulle transazioni in Spanner forniscono informazioni su come un'applicazione utilizza il database e sono utili per analizzare i problemi di prestazioni. Ad esempio, puoi verificare se sono presenti transazioni a esecuzione lenta che potrebbero causare contese oppure puoi identificare potenziali fonti di carico elevato, come grandi volumi di aggiornamenti a una determinata colonna. Utilizzando i seguenti passaggi, ti mostreremo come utilizzare le statistiche sulle transazioni per esaminare i conflitti nel tuo database.

Comprendere le transazioni e i conteggi dei commit

Potrebbe essere necessario provare più volte una transazione Spanner prima che venga eseguita. Ciò si verifica più comunemente quando due transazioni tentano di operare sugli stessi dati contemporaneamente e una delle transazioni deve essere interrotta per preservare la proprietà di isolamento della transazione. Altri eventi temporanei che possono anche causare l'interruzione di una transazione includono:

• Problemi di rete temporanei.

• Modifiche dello schema del database applicate durante il commit di una transazione.

• L'istanza Spanner non ha la capacità di gestire tutte le richieste che riceve.

In questi scenari, un client deve riprovare la transazione interrotta finché non viene eseguita correttamente o non scade il timeout. Per gli utenti delle librerie client Spanner ufficiali, ogni libreria ha implementato un meccanismo di ripetizione automatica. Se utilizzi una versione personalizzata del codice client, racchiudi i commit delle transazioni in un ciclo di ripetizione.

Una transazione Spanner può essere interrotta anche a causa di un errore non ripristinabile come un timeout della transazione, problemi di autorizzazione o un nome di tabella/colonna non valido. Non è necessario riprovare a eseguire queste transazioni e la libreria client Spanner restituirà immediatamente l'errore.

La tabella seguente descrive alcuni esempi di come vengono registrati COMMIT_ATTEMPT_COUNT, COMMIT_ABORT_COUNT e COMMIT_RETRY_COUNT in diversi scenari.

I dati nelle tabelle transactions-stats sono dati aggregati per un intervallo di tempo. Per un determinato intervallo, è possibile che un'interruzione e un nuovo tentativo di transazione si verifichino intorno ai limiti e rientrino in bucket diversi. Di conseguenza, in un determinato intervallo di tempo, gli annullamenti e i tentativi potrebbero non essere uguali.

Queste statistiche sono progettate per la risoluzione dei problemi e l'introspezione e non è garantito che siano accurate al 100%. Le statistiche vengono aggregate in memoria prima di essere archiviate nelle tabelle Spanner. Durante un upgrade o altre attività di manutenzione, i server Spanner possono riavviarsi, influendo sull'accuratezza dei numeri.

Risolvere i problemi di contesa del database utilizzando le statistiche sulle transazioni

Puoi utilizzare il codice SQL o la dashboard Approfondimenti sulle transazioni per visualizzare le transazioni nel tuo database che potrebbero causare latenze elevate a causa di contese di blocco.

I seguenti argomenti mostrano come esaminare queste transazioni utilizzando il codice SQL.

Seleziona un periodo di tempo da esaminare

Puoi trovarlo nell'applicazione che utilizza Spanner.

Ai fini di questo esercizio, supponiamo che il problema abbia iniziato a verificarsi intorno alle 17:20 del 17 maggio 2020.

Puoi utilizzare i tag transazione per identificare l'origine della transazione e correlare la tabella delle statistiche delle transazioni e le tabelle delle statistiche dei blocchi per una risoluzione efficace dei problemi di contesa dei blocchi. Scopri di più in Risoluzione dei problemi con i tag transazione.

Raccogli le statistiche sulle transazioni per il periodo di tempo selezionato

Per avviare la nostra indagine, eseguiremo una query sulla tabella TXN_STATS_TOTAL_10MINUTE intorno all'inizio del problema. I risultati di questa query mostreranno come la latenza e altre statistiche sulle transazioni sono cambiate in quel periodo di tempo.

Ad esempio, la seguente query restituisce le statistiche aggregate sulle transazioni dal giorno 4:30 pm al giorno 7:40 pm (inclusi).

SELECT
  interval_end,
  ROUND(avg_total_latency_seconds,4) as avg_total_latency_seconds,
  commit_attempt_count,
  commit_abort_count
FROM SPANNER_SYS.TXN_STATS_TOTAL_10MINUTE
WHERE
  interval_end >= "2020-05-17T16:40:00"
  AND interval_end <= "2020-05-17T19:40:00"
ORDER BY interval_end;

La tabella seguente elenca i dati di esempio restituiti dalla nostra query.

Qui vediamo che la latenza aggregata e il conteggio degli annullamenti sono più elevati nei periodi evidenziati. Possiamo scegliere qualsiasi intervallo di 10 minuti in cui la latenza aggregata e/o il conteggio degli annullamenti sono elevati. Scegliamo l'intervallo che termina alle 2020-05-17T18:40:00 e utilizziamolo nel passaggio successivo per identificare le transazioni che contribuiscono a un conteggio elevato di latenza e interruzioni.

Identificare le transazioni che registrano una latenza elevata

Ora eseguiamo una query sulla tabella TXN_STATS_TOP_10MINUTE per l'intervallo selezionato nel passaggio precedente. Utilizzando questi dati, possiamo iniziare a identificare le transazioni che registrano latenza elevata e/o un numero elevato di interruzioni.

Esegui la seguente query per ottenere le transazioni con il maggiore impatto sulle prestazioni in ordine decrescente di latenza totale per il nostro intervallo di esempio che termina alle 2020-05-17T18:40:00.

SELECT
  interval_end,
  fprint,
  ROUND(avg_total_latency_seconds,4) as avg_total_latency_seconds,
  ROUND(avg_commit_latency_seconds,4) as avg_commit_latency_seconds,
  commit_attempt_count,
  commit_abort_count,
  commit_retry_count
FROM SPANNER_SYS.TXN_STATS_TOP_10MINUTE
WHERE
  interval_end = "2020-05-17T18:40:00"
ORDER BY avg_total_latency_seconds DESC;

Possiamo vedere chiaramente che la prima riga (evidenziata) nella tabella precedente mostra una transazione che presenta una latenza elevata a causa di un numero elevato di interruzioni del commit. Possiamo anche notare un numero elevato di tentativi di commit, il che indica che i commit interrotti sono stati ritentati successivamente. Nel passaggio successivo, effettueremo ulteriori accertamenti per stabilire la causa del problema.

Identifica le colonne coinvolte in una transazione con latenza elevata

In questo passaggio, verificheremo se le transazioni ad alta latenza operano sullo stesso insieme di colonne recuperando i dati read_columns, write_constructive_columns e write_delete_tables per le transazioni con un numero elevato di interruzioni. Il valore FPRINT sarà utile anche nel passaggio successivo.

SELECT
  fprint,
  read_columns,
  write_constructive_columns,
  write_delete_tables
FROM SPANNER_SYS.TXN_STATS_TOP_10MINUTE
WHERE
  interval_end = "2020-05-17T18:40:00"
ORDER BY avg_total_latency_seconds DESC LIMIT 3;

Come mostrato nell'output della tabella precedente, le transazioni con la latenza totale media più elevata leggono le stesse colonne. Possiamo anche osservare una contesa di scrittura poiché le transazioni scrivono nella stessa colonna, ovvero TestHigherLatency._exists.

Determinare come è cambiato il rendimento delle transazioni nel tempo

Possiamo vedere come sono cambiate le statistiche associate a questa forma della transazione in un determinato periodo di tempo. Utilizza la seguente query, dove $FPRINT è l'impronta della transazione con latenza elevata del passaggio precedente.

SELECT
  interval_end,
  ROUND(avg_total_latency_seconds, 3) AS latency,
  ROUND(avg_commit_latency_seconds, 3) AS commit_latency,
  commit_attempt_count,
  commit_abort_count,
  commit_retry_count,
  commit_failed_precondition_count,
  avg_bytes
FROM SPANNER_SYS.TXN_STATS_TOP_10MINUTE
WHERE
  interval_end >= "2020-05-17T16:40:00"
  AND interval_end <= "2020-05-17T19:40:00"
  AND fprint = $FPRINT
ORDER BY interval_end;

Nell'output precedente possiamo osservare che la latenza totale è elevata per il periodo di tempo evidenziato. Inoltre, ovunque la latenza totale sia elevata, anche commit_attempt_count, commit_abort_count e commit_retry_count sono elevati, anche se la latenza di commit (commit_latency) non è cambiata molto. Poiché i commit delle transazioni vengono interrotti più frequentemente, anche i tentativi di commit sono elevati a causa dei nuovi tentativi di commit.

Conclusione

In questo esempio, abbiamo notato che l'elevato numero di interruzioni del commit era la causa dell'elevata latenza. Il passaggio successivo consiste nell'esaminare i messaggi di errore di interruzione del commit ricevuti dall'applicazione per conoscere il motivo delle interruzioni. Ispezionando i log nell'applicazione, notiamo che l'applicazione ha effettivamente modificato il carico di lavoro durante questo periodo, ovvero è apparsa un'altra forma di transazione con un valore attempts_per_second elevato e questa transazione diversa (forse un'attività di pulizia notturna) è stata responsabile dei conflitti di blocco aggiuntivi.

Identificare le transazioni per le quali non è stato eseguito correttamente un nuovo tentativo

La seguente query restituisce le transazioni campionate negli ultimi 10 minuti che hanno un numero elevato di interruzioni del commit, ma nessun tentativo.

SELECT
  *
FROM (
  SELECT
    fprint,
    SUM(commit_attempt_count) AS total_commit_attempt_count,
    SUM(commit_abort_count) AS total_commit_abort_count,
    SUM(commit_retry_count) AS total_commit_retry_count
  FROM
    SPANNER_SYS.TXN_STATS_TOP_10MINUTE
  GROUP BY
    fprint )
WHERE
  total_commit_retry_count = 0
  AND total_commit_abort_count > 0
ORDER BY
  total_commit_abort_count DESC;

Possiamo vedere che la transazione con impronta 1557557373282541312 è stata interrotta 44.232 volte, ma non è mai stata riprovata. Questo sembra sospetto perché il conteggio degli errori irreversibili è elevato ed è improbabile che ogni errore sia stato causato da un errore non riproducibile. D'altra parte, per la transazione con impronta 5776062322886969344, è meno sospetta perché il conteggio totale degli annullamenti non è così elevato.

La seguente query restituisce maggiori dettagli sulla transazione con fprint 1557557373282541312,inclusi read_columns,write_constructive_columns e write_delete_tables. Queste informazioni aiutano a identificare la transazione nel codice client, dove la logica di ripetizione può essere esaminata per questo scenario.

SELECT
  interval_end,
  fprint,
  read_columns,
  write_constructive_columns,
  write_delete_tables,
  commit_attempt_count,
  commit_abort_count,
  commit_retry_count
FROM
  SPANNER_SYS.TXN_STATS_TOP_10MINUTE
WHERE
  fprint = 1557557373282541312
ORDER BY
  interval_end DESC;

Possiamo vedere che la transazione comporta una lettura della colonna nascosta Singers._exists per verificare l'esistenza di una riga. La transazione scrive anche nelle colonne Singers.FirstName e Singer.LastName. Queste informazioni possono aiutarti a determinare se il meccanismo di ripetizione delle transazioni implementato nella tua libreria client personalizzata funziona come previsto.

Passaggi successivi

• Scopri di più su altri strumenti di introspezione.
• Scopri di più sulle altre informazioni archiviate da Spanner per ogni database nelle tabelle dello schema informativo del database.
• Scopri di più sulle best practice per SQL per Spanner.
• Scopri di più su come analizzare l'utilizzo elevato della CPU.