設定 Ray on Vertex AI

開始使用 Ray on Vertex AI 之前,請按照下列步驟設定 Google 專案和 Vertex AI SDK for Python

  1. 按照「設定專案和開發環境」一文中的步驟,為專案設定帳單功能、安裝 gcloud CLI,並啟用 Vertex AI API。

    啟用 Vertex AI API

  2. 必要條件:您應瞭解如何使用開放原始碼 Ray 開發程式。

  3. 這裡使用的 Ray on Vertex AI SDK for Python 是 Vertex AI SDK for Python 的版本,其中包含 Ray Client、Ray BigQuery 連接器、Vertex AI 上的 Ray 叢集管理,以及 Vertex AI 上的預測功能。

    • 如果您在 Google Cloud 控制台使用 Ray on Vertex AI,系統會在您建立 Ray 叢集後,透過 Colab Enterprise 筆記本引導您完成 Python 適用的 Vertex AI SDK 安裝程序。

    • 如果您在 Vertex AI Workbench 或其他互動式 Python 環境中使用 Ray on Vertex AI,請安裝 Python 適用的 Vertex AI SDK:

      # The latest image in the Ray cluster includes Ray 2.42
      # The latest supported Python version is Python 3.10.
      $ pip install google-cloud-aiplatform[ray]

      安裝 SDK 後,請先重新啟動核心,再匯入套件。

  4. (選用) 如果您打算從 BigQuery 讀取資料,請建立新的 BigQuery 資料集,或使用現有資料集。

  5. (選用) 如要降低 Vertex AI 資料竊取風險,您可以在建立叢集時啟用 VPC Service Controls 並指定 VPC 網路。詳情請參閱「搭配 Vertex AI 使用 VPC Service Controls」。

    啟用 VPC Service Controls 後,您將無法存取範圍外的資源,例如 Cloud Storage bucket 中的檔案。

  6. (選用) 如要使用自訂容器映像檔,請在 Artifact Registry 託管該映像檔。自訂映像檔可讓您新增預先建構容器映像檔未提供的 Python 依附元件。如要建構自訂映像檔,請參閱 Docker 說明文件中的「封裝軟體」。

  7. (選用) 如果您在 Vertex AI 上建立 Ray 叢集時指定虛擬私有雲網路,強烈建議您在專案中使用自動模式虛擬私有雲網路。不支援自訂模式的虛擬私有雲網路,以及同一專案中的多個虛擬私有雲網路,否則可能會導致叢集建立失敗。

保護您的叢集

請遵循 Ray 最佳做法和指南,包括在受信任的網路上執行受信任的程式碼,確保 Ray 工作負載安全無虞。在雲端執行個體中部署 ray.io 時,適用共同責任模式。

如要進一步瞭解最佳做法,請參閱 GCP-2024-020 安全性公告。 Google Cloud

支援的地點

如需 Vertex AI 中 Ray 的可用位置,請參閱自訂模型訓練的功能適用情形表。

後續步驟