Como treinar usando o algoritmo TabNet integrado

O treinamento com algoritmos integrados no AI Platform Training permite enviar o conjunto de dados e treinar um modelo sem a necessidade de escrever código de treinamento. Nesta página, você verá como funciona o algoritmo integrado do TabNet e como usá-lo.

Visão geral

Esse algoritmo integrado realiza trabalhos de pré-processamento e treinamento:

1. Pré-processamento: o AI Platform Training processa a combinação de dados categóricos e numéricos em um conjunto de dados numéricos para prepará-lo para o treinamento.
2. Treinamento: com o conjunto de dados e os parâmetros do modelo fornecidos por você, o AI Platform Training executa o treinamento usando o Estimator customizado (em inglês) do TensorFlow.

Limitações

Os recursos a seguir não são compatíveis com o treinamento com o algoritmo integrado TabNet:

• Treinamento com várias GPUs: Os algoritmos integrados apenas usam uma GPU por vez. Para aproveitar ao máximo o treinamento com várias GPUs em uma só máquina, você precisa criar um aplicativo de treinamento. Encontre mais informações sobre os tipos de máquinas.
• Treinamento com TPUs. Para treinar com TPUs, crie um aplicativo de treinamento. Aprenda como gerar um job de treinamento com TPUs.
• Treinamento distribuído: Para executar um job de treinamento distribuído no AI Platform Training, crie um aplicativo de treinamento.

Tipos de máquina compatíveis

Os níveis de escalonamento e tipos de máquina do AI Platform Training a seguir são compatíveis:

• ScaleTier BASIC
• CUSTOMNível de escalonamento PERSONALIZADO com qualquer um dos tipos de máquina do Compute Engine compatíveis com o AI Platform Training.
• CUSTOMNível de escalonamento PERSONALIZADO com qualquer um dos tipos de máquina legados a seguir:
  • standard
  • large_model
  • complex_model_s
  • complex_model_m
  • complex_model_l
  • standard_gpu
  • standard_p100
  • standard_v100
  • large_model_v100

Formatar dados de entrada

Cada linha de um conjunto de dados representa uma instância, e cada coluna de um conjunto de dados representa um valor de atributo. A coluna de destino representa o valor que você quer prever.

Preparar arquivo CSV

Os dados de entrada precisam estar em um arquivo CSV com codificação UTF-8. Se os dados de treinamento consistirem apenas em valores categóricos e numéricos, será possível usar o módulo de pré-processamento para preencher valores numéricos não encontrados, dividir o conjunto de dados e remover linhas com mais de 10% dos valores não encontrados. Do contrário, será possível gerar o treinamento sem pré-processamento automático ativado.

Prepare o arquivo CSV de entrada para atender aos seguintes requisitos:

• Remova a linha do cabeçalho. A linha do cabeçalho contém os rótulos de cada coluna. Remova a linha do cabeçalho para evitar enviá-la com o restante das instâncias de dados como parte dos dados de treinamento.
• Verifique se a coluna de destino é a primeira. A coluna de destino contém o valor que você está tentando prever. Para um algoritmo de classificação, todos os valores na coluna de destino são uma classe ou uma categoria. Para um algoritmo de regressão, todos os valores na coluna de destino são um valor numérico.

Processar valores inteiros

O significado de valores inteiros pode ser ambíguo, o que torna as colunas de valores inteiros problemáticas no pré-processamento automático. O AI Platform Training determina automaticamente como lidar com valores inteiros. Por padrão:

• Se cada valor inteiro for único, a coluna será tratada como chaves de instância.
• Se houver apenas alguns valores inteiros únicos, a coluna será tratada como categórica.
• Caso contrário, os valores na coluna serão convertidos em flutuantes e tratados como numéricos.

Para substituir essas determinações padrão:

• Se os dados precisarem ser tratados como numéricos, converta todos os valores inteiros na coluna para ponto flutuante. Por exemplo, {101.0, 102.0, 103.0}
• Se os dados precisarem ser tratados como categóricos, adicione um prefixo não numérico a todos os valores inteiros na coluna. Por exemplo, {code_101, code_102, code_103}

Enviar um job de treinamento do TabNet

Nesta seção, explicamos como enviar um job de treinamento usando o algoritmo integrado do TabNet.

Você encontra explicações breves de cada hiperparâmetro no Console do Google Cloud e uma explicação mais abrangente na referência do algoritmo integrado do TabNet (em inglês).

Como funciona o pré-processamento

O pré-processamento automático funciona para dados categóricos e numéricos. A rotina de pré-processamento primeiro analisa e, depois, transforma os dados.

Análise

Primeiro, o AI Platform Training detecta automaticamente o tipo de dados de cada coluna, identifica como tratar cada uma delas e calcula algumas estatísticas dos dados nelas. Essas informações são capturadas no arquivo metadata.json.

O AI Platform Training analisa o tipo da coluna de destino para identificar se o conjunto de dados fornecido é de regressão ou classificação. Se essa análise entrar em conflito com a seleção do model_type, resultará em erro. Formate os dados com clareza em casos ambíguos para deixar explícito como a coluna de destino precisará ser tratada.

• Tipo: a coluna pode ser numérica ou categórica.

• Tratamento: o AI Platform Training identifica como tratar cada coluna da seguinte maneira:

  • Se a coluna incluir um único valor em todas as linhas, ela será tratada como uma constante.
  • Se for categórica e incluir valores exclusivos em todas as linhas, a coluna será tratada como um row_identifier.
  • Se for numérica com valores flutuantes ou se for numérica com valores inteiros e contiver muitos valores exclusivos, a coluna será tratada como numérica.
  • Se for numérica com valores inteiros e contiver alguns valores exclusivos suficientes, a coluna será tratada como uma coluna categórica em que os valores inteiros serão a identidade ou o vocabulário.
    • Uma coluna terá poucos valores exclusivos se o número de valores exclusivos na coluna for menor que 20% do número de linhas no conjunto de dados de entrada.
  • Se for categórica com cardinalidade alta, a coluna será tratada com hash, em que o número de buckets de hash será igual à raiz quadrada do número de valores exclusivos na coluna.
    • Uma coluna categórica terá cardinalidade alta se o número de valores exclusivos for maior que a raiz quadrada do número de linhas no conjunto de dados.
  • Se for categórica e o número de valores exclusivos for menor que ou igual à raiz quadrada do número de linhas no conjunto de dados, a coluna será tratada como categórica normal com vocabulário.

• Estatísticas: com base no tipo de coluna e tratamento identificados, o AI Platform Training calcula as seguintes estatísticas, que serão usadas para transformar a coluna em um estágio posterior.

  • Se a coluna for numérica, os valores médios e de variância serão calculados.
  • Se a coluna for categórica e o tratamento for de identidade ou vocabulário, os valores distintos serão extraídos da coluna.
  • Se a coluna for categórica e o tratamento for hash, o número de buckets de hash será computado em relação à cardinalidade da coluna.

Transformação

Após a conclusão da análise inicial do conjunto de dados, o AI Platform Training transforma os dados com base nos tipos, tratamentos e estatísticas aplicados ao conjunto de dados. O AI Platform Training faz transformações na ordem a seguir:

1. Divide o conjunto de dados de treinamento em conjuntos de dados de validação e teste se você especificar as porcentagens divididas.
2. Remove linhas que não tenham mais de 10% dos atributos.
3. Preenche valores numéricos não encontrados usando a média da coluna.

Transformações de exemplo

As linhas sem 10% dos valores são removidas. Nos exemplos a seguir, suponhamos que a linha tenha 10 valores. Para simplificar, as linhas de exemplo estão truncadas.

Colunas de atributos

Durante a transformação, as colunas não são processadas. Em vez disso, os metadados produzidos durante a análise são transmitidos ao AI Platform Training para criar as colunas de atributo adequadamente:

Após a conclusão do pré-processamento automático, o AI Platform Training faz o upload do conjunto de dados processado para o bucket do Cloud Storage no diretório especificado na solicitação do job.

Mais recursos de aprendizado

• Saiba mais sobre colunas de atributos do TensorFlow (em inglês).