Regiões e zonas de TPU
Visão geral
As principais diferenças entre os tipos de TPU são preços, desempenho, capacidade de memória e disponibilidade zonal.
O Google Cloud usa regiões subdivididas em zonas para definir a localização geográfica dos recursos de computação física. Por exemplo, a região us-central1
indica uma região perto do centro geográfico dos Estados Unidos. Ao criar uma VM de TPU, especifique a zona em que
quiser criá-la. Consulte a Compute Engine Global, regional e zonal do
recursos
para mais informações sobre recursos regionais e zonais.
É possível criar configurações de TPU nas zonas mostradas na tabela a seguir.
EUA
Tipo de TPU (v2) | Núcleos de TPU v2 | Zonas disponíveis |
---|---|---|
v2-8 | 8 |
us-central1-b us-central1-c us-central1-f
|
v2-32 | 32 |
us-central1-a
|
v2-128 | 128 |
us-central1-a
|
v2-256 | 256 |
us-central1-a
|
v2-512 | 512 |
us-central1-a
|
Tipo de TPU (v3) | Núcleos de TPU v3 | Zonas disponíveis |
v3-8 | 8 |
us-central1-a us-central1-b us-central1-f
|
Tipo de TPU (v4) | Chips TPU v4 | Zonas disponíveis |
Todas as configurações da v4 | varia de acordo com o tamanho da fração |
us-central2-b |
Tipo de TPU (v5e) | Chips TPU v5e | Zonas disponíveis |
Todas as configurações do v5litepod | varia de acordo com o tamanho da fração |
us-central1-a us-east5-a us-east5-b us-east5-c us-south1-a us-west1-c us-west4-a us-west4-b |
Tipo de TPU (v5p) | Chips TPU v5p | Zonas disponíveis |
Todas as configurações v5p | varia de acordo com o tamanho da fração |
us-east5-a us-east5-c |
Europa
Tipo de TPU (v2) | Núcleos de TPU v2 | Zonas disponíveis |
---|---|---|
v2-8 | 8 |
europe-west4-a
|
v2-32 | 32 |
europe-west4-a
|
v2-128 | 128 |
europe-west4-a
|
v2-256 | 256 |
europe-west4-a
|
v2-512 | 512 |
europe-west4-a
|
Tipo de TPU (v3) | Núcleos de TPU v3 | Zonas disponíveis |
v3-8 | 8 |
europe-west4-a
|
v3-32 | 32 |
europe-west4-a
|
v3-64 | 64 |
europe-west4-a
|
v3-128 | 128 |
europe-west4-a
|
v3-256 | 256 |
europe-west4-a
|
v3-512 | 512 |
europe-west4-a
|
v3-1024 | 1024 |
europe-west4-a
|
v3-2048 | 2048 |
europe-west4-a
|
Tipo de TPU (v5e) | Chips TPU v5e | Zonas disponíveis |
v5lite-1 | 1 |
europe-west4-b |
v5lite-4 | 4 |
europe-west4-b |
v5lite-8 | 8 |
europe-west4-b |
Todas as configurações do v5litepod | varia de acordo com o tamanho da fatia |
europe-west1-b europe-west4-a europe-west4-b |
Ásia-Pacífico
Tipo de TPU (v2) | Núcleos de TPU v2 | Zonas disponíveis |
---|---|---|
v2-8 | 8 |
asia-east1-c
|
Tipo de TPU (v5e) | Chips TPU v5e | Zonas disponíveis |
Todas as configurações do v5litepod | varia de acordo com o tamanho da fração |
asia-southeast1-b
|
Os tipos de TPU com maior número de chips ou núcleos estão disponíveis apenas em quantidades limitadas. Os tipos de TPU com menor contagem de núcleos ou chips têm maior probabilidade de estar disponíveis.
Como calcular o preço e as vantagens e desvantagens de desempenho
Para decidir qual tipo de TPU você quer usar, faça experimentos usando um Tutorial do Cloud TPU para treinar um modelo que seja semelhantes ao seu aplicativo.
Execute o tutorial para 5 a 10% do número de etapas que você usará para executar
treinamento em um tipo de TPU v2-8
ou v3-8
. O resultado
informa quanto tempo leva para executar esse número de etapas para esse modelo em cada
Tipo de TPU.
Como o desempenho em tipos de TPU escalona linearmente, se você souber quanto tempo leva
para executar uma tarefa em um tipo de TPU v2-8
ou v3-8
,
estimar o quanto é possível reduzir o tempo da tarefa executando seu modelo em uma TPU maior
tipo com mais chips ou núcleos.
Por exemplo, se um tipo de TPU v2-8
levar de 60 minutos a 10.000 etapas, um
O nó v2-32
leva aproximadamente 15 minutos para executar o mesmo
tarefa.
Quando você sabe o tempo aproximado de treinamento do modelo em alguns de TPU, é possível pesar o custo da VM/TPU em relação ao tempo de treinamento para ajudar decidir o melhor preço e comprometimento do desempenho.
Para determinar a diferença de custo entre os diferentes tipos de TPU do Cloud TPU e a VM do Compute Engine associada, consulte a página de preços da TPU.
Como especificar o tipo de TPU
Seja qual for o framework usado, especifique um v2
.
ou o tipo de TPU v3
com a
o parâmetro accelerator-type
quando você
iniciar uma TPU. Para uma TPU v4 ou posterior,
é possível especificar o tipo e o tamanho usando AcceleratorType
ou
AcceleratorConfig
. Para mais informações, consulte TPU
padrão. Os comandos de exemplo são
mostrados em Como gerenciar TPUs.
A seguir
- Para ver os preços das TPUs em cada região, consulte a seção Preços página.
- Saiba mais sobre a arquitetura de TPU na página Sistemas Arquitetura.
- Consulte Quando usar TPUs para conhecer os tipos de modelos adequados para o Cloud TPU.