Vertex AI 提供 Docker 容器映像檔,讓您做為預建容器執行,以便提供訓練模型構件中的推論和說明。這些容器是依據機器學習 (ML) 架構和架構版本來分類,提供HTTP 推論伺服器,可用於提供推論,且只需進行最少的設定。在許多情況下,使用預先建構的容器會比建立推論專用的自訂容器來得簡單。
本文會列出用於推論和解釋的預建容器,並說明如何搭配使用 Vertex AI 的自訂訓練功能或在 Vertex AI 外部建立的模型構件使用這些容器。
支援政策和時程
Vertex AI 會根據時間表支援每個架構版本,以盡量減少安全漏洞。詳閱支援政策時間表,瞭解終止支援日期和供應日期的影響。
可用的容器映像檔
下列每個容器映像檔皆可在多個 Artifact Registry 存放區中取得,這些存放區會在不同位置儲存資料。執行自訂訓練時,您可以使用任何圖片的 URI;每個 URI 都會提供相同的容器映像檔。如果您使用 Google Cloud 控制台建立 Model
資源, Google Cloud 控制台會選取最符合您使用 Vertex AI 的位置的 URI,以便縮短延遲時間。
TensorFlow
可用的 TensorFlow 容器映像檔 (按一下即可展開)
ML 架構版本 | 支援的加速器 (以及 CUDA 版本,如適用) | 修補和支援服務終止日期 | 播映時段結束日期 | 支援的圖片 |
---|---|---|---|---|
2.15 | 僅 CPU | 2026 年 1 月 14 日 | 2027 年 1 月 14 日 |
|
2.15 | GPU (CUDA 12.x) | 2026 年 1 月 14 日 | 2027 年 1 月 14 日 |
|
2.14 | 僅 CPU | 2026 年 1 月 14 日 | 2027 年 1 月 14 日 |
|
2.14 | GPU (CUDA 12.x) | 2026 年 1 月 14 日 | 2027 年 1 月 14 日 |
|
2.13 | 僅 CPU | 2024 年 11 月 28 日 | 2025 年 11 月 28 日 |
|
2.13 | GPU (CUDA 12.x) | 2024 年 11 月 28 日 | 2025 年 11 月 28 日 |
|
2.12 | 僅 CPU | 2024 年 6 月 30 日 | 2025 年 6 月 30 日 |
|
2.12 | GPU (CUDA 11.x) | 2024 年 6 月 30 日 | 2025 年 6 月 30 日 |
|
2.11 | 僅 CPU | 2023 年 11 月 15 日 | 2024 年 11 月 15 日 |
|
2.11 | GPU (CUDA 11.x) | 2023 年 11 月 15 日 | 2024 年 11 月 15 日 |
|
2.10 | 僅 CPU | 2023 年 11 月 15 日 | 2024 年 11 月 15 日 |
|
2.10 | GPU (CUDA 11.x) | 2023 年 11 月 15 日 | 2024 年 11 月 15 日 |
|
2.9 | 僅 CPU | 2023 年 11 月 15 日 | 2024 年 11 月 15 日 |
|
2.9 | GPU (CUDA 11.x) | 2023 年 11 月 15 日 | 2024 年 11 月 15 日 |
|
2.8 | 僅 CPU | 2023 年 11 月 15 日 | 2024 年 11 月 15 日 |
|
2.8 | GPU (CUDA 11.x) | 2023 年 11 月 15 日 | 2024 年 11 月 15 日 |
|
2.7 | 僅 CPU | 2023 年 11 月 15 日 | 2024 年 11 月 15 日 |
|
2.7 | GPU (CUDA 11.x) | 2023 年 11 月 15 日 | 2024 年 11 月 15 日 |
|
2.6 | 僅 CPU | 2023 年 11 月 15 日 | 2024 年 11 月 15 日 |
|
2.6 | GPU (CUDA 11.x) | 2023 年 11 月 15 日 | 2024 年 11 月 15 日 |
|
2.5 | 僅 CPU | 2023 年 11 月 15 日 | 2024 年 11 月 15 日 |
|
2.5 | GPU (CUDA 11.x) | 2023 年 11 月 15 日 | 2024 年 11 月 15 日 |
|
2.4 | 僅 CPU | 2023 年 11 月 15 日 | 2024 年 11 月 15 日 |
|
2.4 | GPU (CUDA 11.x) | 2023 年 11 月 15 日 | 2024 年 11 月 15 日 |
|
2.3 | 僅 CPU | 2023 年 11 月 15 日 | 2024 年 11 月 15 日 |
|
2.3 | GPU (CUDA 11.x) | 2023 年 11 月 15 日 | 2024 年 11 月 15 日 |
|
2.2 | 僅 CPU | 2023 年 11 月 15 日 | 2024 年 11 月 15 日 |
|
2.2 | GPU (CUDA 11.x) | 2023 年 11 月 15 日 | 2024 年 11 月 15 日 |
|
2.1 | 僅 CPU | 2023 年 11 月 15 日 | 2024 年 11 月 15 日 |
|
2.1 | GPU (CUDA 11.x) | 2023 年 11 月 15 日 | 2024 年 11 月 15 日 |
|
1.15 | 僅 CPU | 2023 年 11 月 15 日 | 2024 年 11 月 15 日 |
|
1.15 | GPU (CUDA 11.x) | 2023 年 11 月 15 日 | 2024 年 11 月 15 日 |
|
經過最佳化的 TensorFlow 執行階段
下列容器映像檔會使用經過最佳化的 TensorFlow 執行階段。詳情請參閱「使用經過最佳化的 TensorFlow 執行階段」。
可用的最佳化 TensorFlow 執行階段容器映像檔 (按一下展開)
ML 架構版本 | 支援的加速器 (以及 CUDA 版本,如適用) | 修補和支援服務終止日期 | 播映時段結束日期 | 支援的圖片 |
---|---|---|---|---|
每晚 | 僅 CPU | 不適用 | 不適用 |
|
每晚 | GPU (CUDA 12.x) | 不適用 | 不適用 |
|
每晚 | Cloud TPU | 不適用 | 不適用 |
|
2.17 | 僅 CPU | 2024 年 7 月 11 日 | 2025 年 7 月 11 日 |
|
2.17 | GPU (CUDA 12.x) | 2024 年 7 月 11 日 | 2025 年 7 月 11 日 |
|
2.17 | Cloud TPU | 2024 年 7 月 11 日 | 2025 年 7 月 11 日 |
|
2.16 | 僅 CPU | 2024 年 4 月 26 日 | 2025 年 4 月 26 日 |
|
2.16 | GPU (CUDA 12.x) | 2024 年 4 月 26 日 | 2025 年 4 月 26 日 |
|
2.16 | Cloud TPU | 2024 年 4 月 26 日 | 2025 年 4 月 26 日 |
|
2.15 | 僅 CPU | 2024 年 8 月 15 日 | 2025 年 8 月 15 日 |
|
2.15 | GPU (CUDA 12.x) | 2024 年 8 月 15 日 | 2025 年 8 月 15 日 |
|
2.15 | Cloud TPU | 2024 年 8 月 15 日 | 2025 年 8 月 15 日 |
|
2.14 | 僅 CPU | 2024 年 8 月 15 日 | 2025 年 8 月 15 日 |
|
2.14 | GPU (CUDA 12.x) | 2024 年 8 月 15 日 | 2025 年 8 月 15 日 |
|
2.13 | 僅 CPU | 2024 年 8 月 15 日 | 2025 年 8 月 15 日 |
|
2.13 | GPU (CUDA 11.x) | 2024 年 8 月 15 日 | 2025 年 8 月 15 日 |
|
2.12 | 僅 CPU | 2024 年 5 月 15 日 | 2025 年 5 月 15 日 |
|
2.12 | GPU (CUDA 11.x) | 2024 年 5 月 15 日 | 2025 年 5 月 15 日 |
|
2.11 | 僅 CPU | 2023 年 11 月 15 日 | 2024 年 11 月 15 日 |
|
2.11 | GPU (CUDA 11.x) | 2023 年 11 月 15 日 | 2024 年 11 月 15 日 |
|
2.10 | 僅 CPU | 2023 年 11 月 15 日 | 2024 年 11 月 15 日 |
|
2.10 | GPU (CUDA 11.x) | 2023 年 11 月 15 日 | 2024 年 11 月 15 日 |
|
2.9 | 僅 CPU | 2023 年 11 月 15 日 | 2024 年 11 月 15 日 |
|
2.9 | GPU (CUDA 11.x) | 2023 年 11 月 15 日 | 2024 年 11 月 15 日 |
|
2.8 | 僅 CPU | 2023 年 11 月 15 日 | 2024 年 11 月 15 日 |
|
2.8 | GPU (CUDA 11.x) | 2023 年 11 月 15 日 | 2024 年 11 月 15 日 |
|
PyTorch
可用的 PyTorch 容器映像檔 (按一下即可展開)
ML 架構版本 | 支援的加速器 (以及 CUDA 版本,如適用) | 修補和支援服務終止日期 | 播映時段結束日期 | 支援的圖片 |
---|---|---|---|---|
2.4 (Python 3.9) | 僅 CPU | 2026 年 1 月 14 日 | 2027 年 1 月 14 日 |
|
2.4 (Python 3.9) | GPU (CUDA 12.x) | 2026 年 1 月 14 日 | 2027 年 1 月 14 日 |
|
2.4 (Python 3.9) | Cloud TPU | 2026 年 1 月 14 日 | 2027 年 1 月 14 日 |
|
2.3 (Python 3.9) | 僅 CPU | 2026 年 1 月 14 日 | 2027 年 1 月 14 日 |
|
2.3 (Python 3.9) | GPU (CUDA 12.x) | 2026 年 1 月 14 日 | 2027 年 1 月 14 日 |
|
2.3 (Python 3.9) | Cloud TPU | 2026 年 1 月 14 日 | 2027 年 1 月 14 日 |
|
2.2 (Python 3.9) | 僅 CPU | 2026 年 1 月 14 日 | 2027 年 1 月 14 日 |
|
2.2 (Python 3.9) | GPU (CUDA 12.x) | 2026 年 1 月 14 日 | 2027 年 1 月 14 日 |
|
2.2 (Python 3.9) | Cloud TPU | 2026 年 1 月 14 日 | 2027 年 1 月 14 日 |
|
2.1 (Python 3.9) | 僅 CPU | 2024 年 12 月 1 日 | 2025 年 12 月 1 日 |
|
2.1 (Python 3.9) | GPU (CUDA 12.x) | 2024 年 12 月 1 日 | 2025 年 12 月 1 日 |
|
2.1 (Python 3.9) | Cloud TPU | 2024 年 12 月 1 日 | 2025 年 12 月 1 日 |
|
2.0 (Python 3.9) | 僅 CPU | 2024 年 7 月 27 日 | 2025 年 7 月 27 日 |
|
2.0 (Python 3.9) | GPU (CUDA 11.x) | 2024 年 7 月 27 日 | 2025 年 7 月 27 日 |
|
1.13 (Python 3.8) | 僅 CPU | 2024 年 5 月 15 日 | 2025 年 5 月 15 日 |
|
1.13 (Python 3.8) | GPU (CUDA 11.x) | 2024 年 5 月 15 日 | 2025 年 5 月 15 日 |
|
1.12 | 僅 CPU | 2024 年 5 月 15 日 | 2025 年 5 月 15 日 |
|
1.12 | GPU (CUDA 11.x) | 2024 年 5 月 15 日 | 2025 年 5 月 15 日 |
|
1.11 | 僅 CPU | 2024 年 5 月 15 日 | 2025 年 5 月 15 日 |
|
1.11 | GPU (CUDA 11.x) | 2024 年 5 月 15 日 | 2025 年 5 月 15 日 |
|
scikit-learn
可用的 scikit-learn 容器映像檔 (按一下即可展開)
ML 架構版本 | 支援的加速器 (以及 CUDA 版本,如適用) | 修補和支援服務終止日期 | 播映時段結束日期 | 支援的圖片 |
---|---|---|---|---|
1.5 (Python 3.10) | 僅 CPU | 2026 年 1 月 14 日 | 2027 年 1 月 14 日 |
|
1.4 (Python 3.10) | 僅 CPU | 2026 年 1 月 14 日 | 2027 年 1 月 14 日 |
|
1.3 (Python 3.10) | 僅 CPU | 2024 年 11 月 28 日 | 2025 年 11 月 28 日 |
|
1.2 (Python 3.10) | 僅 CPU | 2024 年 6 月 30 日 | 2025 年 6 月 30 日 |
|
1.0 | 僅 CPU | 2023 年 11 月 15 日 | 2024 年 11 月 15 日 |
|
0.24 | 僅 CPU | 2023 年 11 月 15 日 | 2024 年 11 月 15 日 |
|
0.23 | 僅 CPU | 2023 年 11 月 15 日 | 2024 年 11 月 15 日 |
|
0.22 | 僅 CPU | 2023 年 11 月 15 日 | 2024 年 11 月 15 日 |
|
0.20 | 僅 CPU | 2023 年 11 月 15 日 | 2024 年 11 月 15 日 |
|
XGBoost
可用的 XGBoost 容器映像檔 (按一下展開)
ML 架構版本 | 支援的加速器 (以及 CUDA 版本,如適用) | 修補和支援服務終止日期 | 播映時段結束日期 | 支援的圖片 |
---|---|---|---|---|
2.1 (Python 3.10) | 僅 CPU | 2026 年 1 月 14 日 | 2027 年 1 月 14 日 |
|
2.0 (Python 3.10) | 僅 CPU | 2026 年 1 月 14 日 | 2027 年 1 月 14 日 |
|
1.7 (Python 3.10) | 僅 CPU | 2024 年 6 月 30 日 | 2025 年 6 月 30 日 |
|
1.6 | 僅 CPU | 2023 年 11 月 15 日 | 2024 年 11 月 15 日 |
|
1.5 | 僅 CPU | 2023 年 11 月 15 日 | 2024 年 11 月 15 日 |
|
1.4 | 僅 CPU | 2023 年 11 月 15 日 | 2024 年 11 月 15 日 |
|
1.3 | 僅 CPU | 2023 年 11 月 15 日 | 2024 年 11 月 15 日 |
|
1.2 | 僅 CPU | 2023 年 11 月 15 日 | 2024 年 11 月 15 日 |
|
1.1 | 僅 CPU | 2023 年 11 月 15 日 | 2024 年 11 月 15 日 |
|
0.90 | 僅 CPU | 2023 年 11 月 15 日 | 2024 年 11 月 15 日 |
|
0.82 | 僅 CPU | 2023 年 11 月 15 日 | 2024 年 11 月 15 日 |
|
使用預先建立的容器
建立上傳 Model
的自訂 TrainingPipeline
資源,或將模型構件匯入為 Model
時,您可以指定用於推論的預先建構容器。
如要使用其中一個預先建構的容器,您必須將模型儲存為一或多個符合預先建構容器需求的模型構件。詳情請參閱「匯出模型構件以供推論」。
下列 Notebook 示範如何使用預先建構的容器提供推論。
您要執行什麼操作? | 筆記本 |
---|---|
使用預先建構的容器訓練及提供 TensorFlow 模型 | 自訂訓練和線上推論 |
使用預先建構的容器提供 PyTorch 模型 | 在 Vertex AI 上使用預建容器提供 PyTorch 圖像模型 |
使用預先建構的容器提供穩定的擴散模型 | 在 Vertex AI 上部署及代管穩定擴散模型 |
筆記本
後續步驟
- 瞭解如何將模型部署至端點,以便提供推論服務。