Configurar políticas de armazenamento de mensagens

Se você publicar mensagens no endpoint global do Pub/Sub, o Pub/Sub armazenará automaticamente as mensagens na região do Google Cloud mais próxima. Se você quiser controlar as regiões em que seus as mensagens são armazenadas e processadas, uma política de armazenamento de mensagens sobre o tópico.

Visão geral da política de armazenamento de mensagens

É possível definir uma política de armazenamento de mensagens ao criar um novo tópico ou atualizar um tópico usando o console, a Google Cloud CLI ou as APIs REST.

A política de armazenamento de mensagens só é aplicada ao conteúdo das mensagens. A política não se aplicam a outros dados, como nomes de tópicos, rótulos ou configurações do Identity and Access Management (IAM).

O Pub/Sub armazena mensagens quando um cliente as publica no Pub/Sub Uma política de armazenamento de mensagens garante que O Pub/Sub armazena e processa mensagens apenas no conjunto regiões do Google Cloud que você especificar, não importa onde a publicação ou origem das solicitações de assinatura. Se a política permitir a publicação de várias regiões operações, o Pub/Sub armazena a mensagem em uma região permitida mais próxima para onde a mensagem publicada entra na rede do Google Cloud.

Ao especificar uma política de armazenamento de mensagens, enforceInTransit para True. Essa flag rege o seguinte:

  • Solicitações de publicação, pull e streamingPull recebidas em uma região não são permitidas na política de armazenamento de mensagens são rejeitadas com uma FAILED_PRECONDITION erro.

  • A entrega de assinaturas de push é processada apenas dentro do ou várias regiões. Em alguns casos, essa restrição pode pausar completamente a mensagem para assinaturas push. Quando uma assinatura push entra em um devido aos locais de envio sendo excessivamente restritos por uma combinação de fatores como local de armazenamento de mensagens, regiões permitidas e exportação local do recurso, esse estado se torna visível no Stackdriver.

Políticas de armazenamento de mensagens para novos tópicos

  • Se você não especificar uma política de armazenamento de mensagens ao criar um tópico, a política de armazenamento de mensagens é determinada automaticamente com base na política da organização de restrição da localização de recursos em vigor. Quando nenhuma política da organização está em vigor, a política de armazenamento de mensagens permite todas as regiões.

  • Da mesma forma, na ausência de uma política de armazenamento de mensagens especificada, os A sinalização enforceInTransit é determinada com base no Aplicar regiões em trânsito para mensagens do Pub/Sub política da organização. Para mais informações sobre essa política da organização, consulte Restrições da política da organização.

  • Se você especificar uma política de armazenamento de mensagens ao criar um tópico, essa política poderá conter apenas as regiões permitidas pela política da organização Restrição de localização de recursos em vigor. Quando nenhuma política da organização estiver em vigor, a política de armazenamento de mensagens poderá conter qualquer região.

Políticas de armazenamento de mensagens para tópicos existentes

  • Quando uma política da organização é atualizada, as alterações não se propagam automaticamente para tópicos existentes. Desse modo, a política de armazenamento de mensagens de um tópico existente pode ficar fora de sincronia com a política da organização mais recente. Para Para mais informações, consulte Gerenciar as diferenças entre as políticas de organização e de tópicos.

  • Quando a política de armazenamento de mensagens de um tópico é atualizada, as alterações não são propagadas. em mensagens já publicadas. As mensagens já armazenadas com base em uma política antiga não são movidas para ficarem consistentes com a nova política. Em vez disso, as alterações se aplicam somente às mensagens publicadas após a atualização.

Exceções

A política especifica uma lista de nomes de regiões permitidas do Google Cloud. Dessa maneira, os seguintes itens não são compatíveis:

  • Listas de exclusão
  • Zonas ou locais multirregionais

Se você publicar uma mensagem com uma chave de ordem e a política de armazenamento de mensagens excluir a região mais próxima, o serviço Pub/Sub retornará um erro.

Configurar políticas de armazenamento de mensagens

Há duas maneiras de configurar políticas de armazenamento de mensagens para tópicos, incluindo:

  • Defina uma política de armazenamento de mensagens usando uma política da organização.
  • Configure uma política de armazenamento de mensagens ao criar um tópico.

Definir uma política de armazenamento de mensagens usando uma política da organização

Console

Para configurar uma política de armazenamento de mensagens que se aplique a vários tópicos, faça o seguinte: defina uma política da organização de restrição de localização de recursos;

  1. Acesse a página Políticas da organização no Identity and Access Management. no console do Google Cloud.

    Acessar as políticas da organização

  2. Selecionar o nó da hierarquia de recursos (organização, pasta ou projeto) em que você quer definir uma política da organização.

  3. No filtro, digite Restrição de local de recursos.

  4. Clique em Google Cloud - Restrição de localização de recursos.

  5. Clique em EDITAR.

  6. Adicione ou remova regiões conforme necessário.

    Todos os novos tópicos que você criar vão herdar essas configurações. As mudanças não serão automaticamente propagadas para os tópicos existentes. Para atualizar tópicos atuais, execute uma operação de atualização.

Para mais informações sobre as políticas da organização, consulte Gerenciar seus recursos do Google Cloud.

Configurar uma política de armazenamento de mensagens ao criar um tópico

Console

Ao usar o console do Google Cloud, não é possível configurar uma política de armazenamento de mensagens ao criar um tópico. Em vez disso, todos os novos tópicos herdam automaticamente a política da organização Restrição de localização de recursos.

Depois de criar um tópico, é possível alterar a política de armazenamento de mensagens no console por uma operação de atualização.

CLI da gcloud

Para criar um tópico com uma política de armazenamento de mensagens específica, use o gcloud pubsub topics create com a sinalização --message-storage-policy-allowed-regions:

gcloud pubsub topics create TOPIC_ID \
    --message-storage-policy-allowed-regions=REGION1, REGION2

Substitua:

  • TOPIC_ID: o ID ou nome do novo tópico.
  • REGION1, REGION2: uma lista separada por vírgulas de com suporte nas regiões do Google Cloud.

REST

Para criar um tópico com uma política de armazenamento de mensagens, use o projects.topics.create .

A solicitação precisa ser autenticada com um token de acesso no Authorization cabeçalho. Para conseguir um token de acesso para o Application Default Credentials: gcloud auth application-default print-access-token.

 POST https://pubsub.googleapis.com/v1/projects/PROJECT_ID/topics/TOPIC_ID
 Authorization: Bearer $(gcloud auth application-default print-access-token)
 Content-Type: application/json --data @response-body.json

Especifique os campos a seguir no corpo da solicitação:

{
  "name": "projects/PROJECT_ID/topics/TOPIC_ID",
  "messageStoragePolicy": {
    "allowedPersistenceRegions": ["REGION"],
    "enforceInTransit": true
  }
}

Em que:

  • PROJECT_ID é o ID do projeto;

  • TOPIC_ID é o ID do tópico.

  • REGION é a região especificada.

Exemplo de resposta:

{
  "name": "projects/PROJECT_ID/topics/TOPIC_ID",
  "messageStoragePolicy": {
    "allowedPersistenceRegions": [
      "REGION"
    ],
    "enforceInTransit": true
  }
}

Consulte as seguintes referências de API para mais informações sobre a configuração de mensagens e políticas de armazenamento.

Atualizar políticas de armazenamento de mensagens

Console

  1. No console do Google Cloud, abra a página Detalhes do tópico.

    Acessar os detalhes do tópico

  2. Selecione um tema para atualizar.

    É possível selecionar vários temas.

  3. No Painel de informações, selecione a guia Política de armazenamento.

    Esse painel pode estar fechado por padrão. Se ela estiver recolhida, clique em Mostrar painel de informações.

  4. Marque ou desmarque quantas regiões forem necessárias.

  5. Clique em Atualizar.

CLI da gcloud

Para enviar por push a política de armazenamento de mensagens definida no Política de restrição da localização de recursos para um tópico, execute o seguinte gcloud pubsub topics update comando:

gcloud pubsub topics update TOPIC_ID \
    --recompute-message-storage-policy

Para atualizar a política de armazenamento de mensagens de um tópico com regiões específicas, execute o gcloud pubsub topics update com o Sinalização --message-storage-policy-allowed-regions:

gcloud pubsub topics update TOPIC_ID \
    --message-storage-policy-allowed-regions=REGION1, REGION2

Substitua:

  • TOPIC_ID: o ID do tópico que você está atualizando.
  • REGION1, REGION2: uma lista separada por vírgulas de com suporte nas regiões do Google Cloud.

REST

Para atualizar um tópico com uma política de armazenamento de mensagens, use o método projects.topics.patch.

A solicitação precisa ser autenticada com um token de acesso no Authorization cabeçalho. Para conseguir um token de acesso para o Application Default Credentials: gcloud auth application-default print-access-token.

 PATCH https://pubsub.googleapis.com/v1/projects/PROJECT_ID/topics/TOPIC_ID
 Authorization: Bearer $(gcloud auth application-default print-access-token)
 Content-Type: application/json --data @response-body.json

Especifique os campos a seguir no corpo da solicitação:

{
  "name": "projects/PROJECT_ID/topics/TOPIC_ID",
  "messageStoragePolicy": {
    "allowedPersistenceRegions": ["REGION"], // Replace with your required region
    "enforceInTransit": true
  }
}

Em que:

  • PROJECT_ID é o ID do projeto;

  • TOPIC_ID é o ID do tópico.

  • REGION é a região especificada.

Exemplo de resposta:

{
  "name": "projects/PROJECT_ID/topics/TOPIC_ID",
  "messageStoragePolicy": {
    "allowedPersistenceRegions": [
      "REGION"
    ],
    "enforceInTransit": true
  }
}

Consulte as seguintes referências de API para mais informações sobre como atualizar mensagens e políticas de armazenamento.

Gerenciar as diferenças entre as políticas da organização e de tópico

Conferir as diferenças entre as políticas de organização e de tópicos

Console

O console do Google Cloud mostra as diferenças entre as política da organização e tópicos individuais as políticas de armazenamento de mensagens.

Para ver se algum tópico está fora de sincronia com a política da organização:

  1. Acesse a página Detalhes do tópico.

    Acessar os detalhes do tópico

  2. Selecione um tópico.

  3. No painel de informações, selecione a guia Política de armazenamento.

    Esse painel pode estar recolhido por padrão. Se estiver recolhido, Clique em Mostrar painel de informações.

    As políticas de armazenamento são mostradas no painel, junto com as as diferenças entre políticas de organização e de tópico.

CLI da gcloud

Para examinar a política atual atribuída a um tópico, execute o seguinte comando:

gcloud pubsub topics describe TOPIC_ID

Substitua:

  • TOPIC_ID: o ID do tópico que você está examinando.

Resolver diferenças entre políticas de organização e de tópicos

Console

  1. No console do Google Cloud, abra a página Detalhes do tópico.

    Ir para o Pub/Sub

  2. Selecione um tópico.

  3. No painel de informações, selecione a guia Política de armazenamento.

    Esse painel pode estar fechado por padrão. Se ela estiver recolhida, clique em Mostrar painel de informações.

    As políticas de armazenamento são mostradas no painel, junto com as discrepâncias.

    Se houver discrepâncias, o painel de informações vai mostrar três opções para sincronizar a política de armazenamento do tópico com a política da organização, incluindo:

    • O Topics permite o armazenamento em locais não permitidos.

      Atualize para permitir o armazenamento apenas em locais permitidos pela sua política.

    • O tópico não permite armazenamento em alguns locais permitidos.

      Atualize para permitir o armazenamento em qualquer lugar permitido pela sua política.

    • Os temas estão desatualizados em locais permitidos e não permitidos.

      Atualize para permitir o armazenamento em um lugar permitido pela sua política.

  4. Selecione a opção adequada para resolver os problemas.

  5. Clique em Atualizar tópico.

    A caixa de diálogo Sync to organization storage policy é aberta.

  6. Clique em Atualizar tópico.

Monitoramento e solução de problemas

Para ajudar você a entender onde os dados de mensagens são armazenados, Pub/Sub oferece métricas detalhadas por região do Google Cloud.

Você pode usar essas métricas para:

  • entender como seus dados são distribuídos em todo o mundo;
  • otimizar o local de implantação de editores e assinantes com base nesses dados.

Métricas de armazenamento de mensagens

Contagens de mensagens armazenadas não confirmadas:

subscription/num_unacked_messages_by_region

Volume de dados armazenados:

subscription/unacked_bytes_by_region

Idade da mensagem mais antiga:

subscription/oldest_unacked_message_age_by_region

Métricas análogas estão disponíveis para tópicos e snapshots. Além disso, as métricas correspondentes estão disponíveis para mensagens confirmadas que são retidas opcionalmente para repetição. Exemplo:

subscription/num_retained_acked_messages_by_region

Consequências de desempenho e disponibilidade

A política de armazenamento de mensagens não afeta o SLA geral, mas introduz uma compensação entre disponibilidade e controle quando editores ou assinantes são executados fora do Google Cloud ou em regiões não permitidas pela política. Usuários que executar clientes editores dentro do conjunto de regiões permitidas pelo armazenamento de mensagens políticas não veem as alterações na latência ou na disponibilidade do serviço.

Para entender essas compensações, vale a pena considerar como as solicitações de publicação são encaminhadas. Geralmente, o Pub/Sub tenta armazenar as mensagens o mais próximo possível da origem da solicitação. As solicitações originadas no Google Cloud são, em regra, vinculadas às instâncias do Pub/Sub na mesma região. Se um editor estiver localizado em uma única região, somente adicionar mais regiões à política de armazenamento de mensagens não aumenta a disponibilidade. Ao publicar de fora do Google Cloud, outra camada de roteamento é envolvidas para levar a solicitação a uma região próxima do Google Cloud em que o O serviço Pub/Sub está disponível.

Considere uma política de armazenamento de mensagens que permita somente a região us-central1.

  1. Um cliente editor em execução em us-east1 emite uma solicitação Publish.
  2. A solicitação é roteada para um servidor Pub/Sub em us-east1.
  3. Em vez de armazenar os dados em us-east1, a solicitação é roteada para a região mais próxima permitida pela política de armazenamento de mensagens, que é us-central1.
  4. O Pub/Sub armazena as mensagens publicadas em us-central1 e as encaminha para os assinantes a partir desse local.

Esse mecanismo tem implicações na latência da solicitação e na disponibilidade geral do sistema. Como a solicitação transfere mais links de rede, a conclusão leva mais tempo e tem uma chance relativamente maior de falha. Isso também significa que os assinantes podem ver a mensagem um pouco mais tarde, porque ela precisa viajar até a região permitida mais próxima antes de ser enviada. Se a política permitir uma única região, mas seus aplicativos editores forem executados em várias regiões, o aplicativo distribuído ficará tão disponível quanto a única região permitida.

A seguir