Abonnements Cloud Storage

Un abonnement Cloud Storage est un type d'abonnement d'exportation qui écrit les messages dans un bucket Cloud Storage existant à mesure qu'ils sont reçus. Vous n'avez pas besoin de configurer un client abonné distinct. Utilisez la console Google Cloud, la Google Cloud CLI, les bibliothèques clientes ou l'API Pub/Sub pour créer, mettre à jour, lister, dissocier ou supprimer un abonnement Cloud Storage.

Sans le type d'abonnement Cloud Storage, vous avez besoin d'un abonnement pull ou push et d'un abonné (tel que Dataflow) qui lit les messages et les écrit dans un bucket Cloud Storage. Les frais généraux liés à l'exécution d'une tâche Dataflow ne sont pas nécessaires lorsque les messages ne nécessitent pas de traitement supplémentaire avant d'être stockés dans un bucket Cloud Storage. Vous pouvez utiliser un abonnement Cloud Storage à la place.

Toutefois, un pipeline Dataflow est toujours recommandé pour les systèmes Pub/Sub où une transformation des données est requise avant leur stockage dans un bucket Cloud Storage.

Pour découvrir comment diffuser des données de Pub/Sub vers Cloud Storage avec transformation à l'aide de Dataflow, consultez Diffuser des messages depuis Pub/Sub à l'aide de Dataflow.

Avant de commencer

Avant de lire ce document, assurez-vous de connaître les éléments suivants:

  • Fonctionnement de Pub/Sub et différents termes de Pub/Sub

  • Les différents types d'abonnements et les raisons pour lesquelles vous pouvez utiliser un abonnement Cloud Storage

  • Fonctionnement de Cloud Storage

Workflow des abonnements Cloud Storage

L'image suivante montre le workflow entre un abonnement Cloud Storage et Cloud Storage.

Flux de messages pour un abonnement Cloud Storage

Figure 1 : Workflow pour un abonnement Cloud Storage

Voici une brève description du workflow qui fait référence à la figure 1:

  1. Pub/Sub utilise l'API Cloud Storage pour envoyer des données au bucket Cloud Storage. Une fois une opération d'écriture terminée, l'API renvoie une réponse OK.

  2. Les messages sont envoyés par lots au bucket Cloud Storage. Un seul lot correspond à un objet stocké dans le bucket Cloud Storage. Vous pouvez configurer les paramètres de traitement par lot en fonction de la taille de l'objet et du temps écoulé depuis sa création.

  3. Le workflow d'écriture d'un objet dans un bucket Cloud Storage nécessite deux réponses OK. La première réponse OK est envoyée lorsqu'un message est écrit avec succès dans un objet. La deuxième réponse OK est envoyée lorsque l'objet contenant le message est finalisé. Un message ne devient visible dans le bucket qu'après la finalisation de l'objet Cloud Storage qui le contient.

  4. En cas d'échec pendant l'opération d'écriture, le message Pub/Sub lui-même est confirmé de manière négative. Le message est ensuite renvoyé. Si l'opération d'écriture du message échoue suffisamment de fois et que vous avez configuré un sujet de lettres mortes sur l'abonnement, le message est déplacé vers le sujet de lettres mortes.

Propriétés d'un abonnement Cloud Storage

Lorsque vous créez un abonnement Cloud Storage, vous devez spécifier certaines propriétés supplémentaires. Ces propriétés incluent les propriétés d'abonnement courantes, les exigences concernant le nom et le format de fichier, les exigences de stockage, etc. Pour en savoir plus sur ces propriétés, consultez la section Propriétés des abonnements Cloud Storage.

Autorisations des comptes de service Pub/Sub

Pour créer un abonnement Cloud Storage, le compte de service Pub/Sub doit être autorisé à écrire dans le bucket Cloud Storage spécifique et à lire ses métadonnées.

Pour en savoir plus, consultez la section Attribuer des rôles Cloud Storage au compte de service Pub/Sub.

Gérer les échecs de messages

Lorsqu'un message Pub/Sub ne peut pas être écrit dans un bucket Cloud Storage, il ne peut pas être confirmé. Pour transférer ces messages non distribuables, configurez un sujet de lettres mortes sur l'abonnement Cloud Storage.

Si Pub/Sub ne peut pas écrire de messages dans Cloud Storage, il suspend la distribution des messages de manière similaire au comportement de délai avant nouvelle tentative de push.

Quotas

Les limites de quota s'appliquent au débit des abonnés Cloud Storage pour chaque région. Pour en savoir plus sur les quotas des abonnements Cloud Storage, consultez les limites de quota des abonnés à l'exportation dans la section Quotas et limites de Pub/Sub.

Tarifs

Pour en savoir plus sur les tarifs des abonnements Cloud Storage, consultez la page Tarifs de Pub/Sub.

Étape suivante