查看 Application Integration 支援的連接器。

Vertex AI - 預測工作

Vertex AI - Predict 工作可讓您執行線上預測。「線上預測」是對模型端點發出的同步要求。如要依據應用程式輸入內容發出要求，或是需要及時進行推論，您可以選用線上預測模式。

Vertex AI 是 Google Cloud 服務，可讓您訓練及部署機器學習模型和 AI 應用程式，並自訂大型語言模型 (LLM) 用於 AI 技術輔助應用程式。

事前準備

設定 Vertex AI - 預測工作前，請務必先在 Google Cloud 專案中執行下列工作：

  1. 啟用 Vertex AI API (aiplatform.googleapis.com)。

    啟用 Vertex AI API

  2. 將模型資源部署至端點。
  3. 建立驗證設定檔。Application Integration 會使用驗證設定檔，連線至 Vertex AI - 預測工作專用的驗證端點。
  4. 請確認 Google Cloud 專案中不為應用程式整合設定 VPC Service Controls。

設定 Vertex AI - 預測工作

  1. 前往 Google Cloud 控制台的「Application Integration」頁面。

    前往「應用程式整合」

  2. 在導覽選單中，按一下「整合」。

    系統隨即會顯示「Integrations」頁面，列出 Google Cloud 專案中可用的所有整合項目。

  3. 選取現有的整合，或按一下「建立整合」來建立新的整合。

    如果您要建立新的整合功能：

    1. 在「Create Integration」窗格中輸入名稱和說明。
    2. 選取整合作業的區域。
    3. 選取要用於整合的服務帳戶。您隨時可以透過整合工具列的 「整合摘要」窗格，變更或更新整合作業的服務帳戶詳細資料。
    4. 按一下「建立」，新建立的整合服務會在整合服務編輯器中開啟。

  4. 在整合編輯器的導覽列中，按一下「Tasks」，即可查看可用任務和連接器的清單。
  5. 在整合服務編輯器中，按一下並放置「Vertex AI - Predict」元素。
  6. 按一下設計工具中的「Vertex AI - 預測」元素，即可查看「Vertex AI - 預測」任務設定窗格。
  7. 前往「驗證」，然後選取要使用的現有驗證設定檔。

    (非必要) 如果您在設定工作前尚未建立驗證設定檔，請按一下「+ 新驗證設定檔」，然後按照「建立新的驗證設定檔」一節所述的步驟操作。

  8. 前往「Task Input」，然後使用下列「Task input parameters」表格設定顯示的輸入欄位。

    系統會自動儲存輸入欄位的變更。

工作輸入參數

下表說明 Vertex AI - Predict 任務的輸入參數：

資源資料類型說明
區域字串模型端點位置。例如：us - 美國。
ProjectsId 字串您的 Google Cloud 專案 ID。
端點字串要求提供預測結果的端點名稱。
要求JSON 請參閱要求 JSON 結構。

任務輸出

Vertex AI - Predict 工作會傳回包含預測的回應。

錯誤處理策略

工作錯誤處理策略會指定在工作因暫時性錯誤而失敗時，應採取的動作。如要瞭解如何使用錯誤處理策略，以及各種錯誤處理策略，請參閱「錯誤處理策略」。

配額與限制

如要進一步瞭解配額和限制，請參閱「配額與限制」。

後續步驟