Vertex AI 持久性資源是可長時間執行的叢集,可用於執行自訂訓練工作。訓練工作完成後,持久性資源會繼續執行其他訓練工作,直到您刪除為止。您可以使用永久資源確保運算資源可用性,並減少工作啟動時間。如要建立運算資源,就會需要花時間啟動工作。永久資源支援自訂訓練工作支援的所有 VM 和 GPU。本頁面說明何時應使用永久性資源,並提供帳單和配額相關資訊。
使用持久性資源的時機
建議您在下列情況下使用永久性資源:
- 您希望確保關鍵機器學習工作負載或在旺季期間有足夠的容量。與自訂工作不同,訓練服務會在工作完成後釋放資源,但永久資源會一直保留,直到刪除為止。
- 您會多次提交相同的工作,因此可以在相同的永久性資源上執行工作,以便享有資料和圖片快取功能的好處。
- 您執行許多短暫訓練工作,實際訓練時間比工作啟動時間短。
如要進一步瞭解何時使用持久性資源以及使用原因,請參閱「為 Vertex AI 訓練提供容量保證和更快的啟動時間」一文。
帳單明細
無論永久性資源是否有工作在執行,系統都會根據永久性資源處於執行狀態的整個期間向您收費。對於持久性資源集區中的每個執行個體,系統會以核心小時計費。在永久性資源上執行的所有工作都不會個別計費。您只需為永久性資源付費。
如果您為永久性資源設定自動調整資源配置,只需為已配置的執行個體付費。舉例來說,如果 min-replica-count
設為 4
,系統一律會佈建 4
執行個體,而您需要支付的金額就是這個數字。工作負載增加時,資源集區可能會擴充至 6
,以因應需求增加的情況。之後,您就會為 6
佈建的執行個體付費,直到資源資源池再次縮減為止。為避免支付閒置節點的費用,請為永久性資源使用自動調度資源功能,或是在不再需要時刪除該資源。如要進一步瞭解價格,請參閱 Vertex AI 定價頁面中的「自訂訓練模型」一節。
配額
永久資源會使用訓練配額,因此請確認您有足夠的配額可建立永久資源。如要進一步瞭解配額,請參閱「訓練配額和限制」。