Bereitgestellter Durchsatz in einer Zone

Mit „Single Zone Provisioned Throughput“ können Sie Durchsatz in bestimmten Regionen reservieren, in denen nur eine Zone verfügbar ist. Diese Option bietet eine vorhersehbare Leistung für Gemini-Modelle in Anwendungsfällen, in denen eine ML-Verarbeitung erforderlich ist.

Eine Liste der unterstützten Modelle und Regionen finden Sie unter Bereitstellungen und Endpunkte. Eine Liste der Regionen und Modelle, die ML-Verarbeitung unterstützen, finden Sie unter ML-Verarbeitung.

Funktionen des bereitgestellten Durchsatzes für eine einzelne Zone

In diesem Abschnitt werden die wichtigsten Funktionen des bereitgestellten Durchsatzes für eine einzelne Zone beschrieben:

  • Preise und Einheiten entsprechen dem standardmäßigen bereitgestellten Durchsatz: Der bereitgestellte Durchsatz für einzelne Zonen verwendet dieselbe Maßeinheit für den Durchsatz (GSUs), Preise und Bedingungen wie der standardmäßige bereitgestellte Durchsatz.

  • Der bereitgestellte Durchsatz für eine einzelne Zone unterstützt die ML-Verarbeitung in der Region: Alle Anfragen werden in der gekauften Region verarbeitet, auch Traffic, der den gekauften Durchsatz überschreitet. Dieser Traffic wird zum Pay-as-you-go-Tarif mit der Pufferkapazität in der Region abgerechnet.

  • Sie haben die Kontrolle über die Überschreitungen: Sie können Overflow-Traffic mit denselben Headern steuern wie bei Standard-Provisioned Throughput.

  • Bestellung überwachen: Sie können Ihre Bestellung für Provisioned Throughput in einer einzelnen Zone mit den vorhandenen Funktionen für die Überwachung von Provisioned Throughput überwachen.

Beschränkungen

Für den bereitgestellten Durchsatz in einer einzelnen Zone gelten die folgenden Einschränkungen:

  • Der bereitgestellte Durchsatz für eine einzelne Zone ist kein abgedeckter Dienst und ist vom Service Level Agreement für die Online-Inferenz mit Gemini in Vertex AI ausgeschlossen.

  • Der bereitgestellte Durchsatz für eine einzelne Zone ist nicht in Batchanfragen oder Feinabstimmung integriert und wird nicht unterstützt.

  • In Regionen ohne ML-Verarbeitung kann die Latenz für den bereitgestellten Durchsatz in einer einzelnen Zone höher sein als für den standardmäßigen bereitgestellten Durchsatz oder „Pay-as-you-go“.

Provisioned Throughput für eine einzelne Zone kaufen

Wenn Sie Unterstützung beim Kauf von Single Zone Provisioned Throughput benötigen, wenden Sie sich an Ihren Google Cloud Kundenbetreuer.

Nächste Schritte