調整模型
本頁面說明如何使用 Colab Enterprise 的側邊面板與 Vertex AI 互動，藉此微調模型。
如要在 Colab Enterprise 筆記本中執行程式碼，並存取 Google Cloud 服務和 API，可以使用與 Google 帳戶相關聯的憑證。詳情請參閱存取 Google Cloud 服務和 API。
側邊面板是與 Vertex AI 互動的另一種方式，可讓您調整模型，不必離開 Colab Enterprise 介面。
側邊面板會顯示在開啟的記事本右側。
在 Vertex AI 中調整模型
模型調整是依據任務自訂大型模型的有效方法。這是提升模型品質和效率的重要步驟。模型微調有下列優點：
- 提升特定工作的品質
- 提升模型穩健性
- 提示較短，因此推論延遲時間和成本較低
如要瞭解如何微調 Gemini 的 Vertex AI 模型，請參閱微調簡介。
事前準備
- Sign in to your Google Cloud account. If you're new to Google Cloud, create an account to evaluate how our products perform in real-world scenarios. New customers also get $300 in free credits to run, test, and deploy workloads.
-
In the Google Cloud console, on the project selector page, select or create a Google Cloud project.
-
Make sure that billing is enabled for your Google Cloud project.
-
Enable the Vertex AI, Dataform, and Compute Engine APIs.
-
In the Google Cloud console, on the project selector page, select or create a Google Cloud project.
-
Make sure that billing is enabled for your Google Cloud project.
-
Enable the Vertex AI, Dataform, and Compute Engine APIs.
-
Colab Enterprise 使用者 (
roles/aiplatform.colabEnterpriseUser) -
Vertex AI 使用者 (
roles/aiplatform.user) -
在 Google Cloud 控制台中，前往 Colab Enterprise 的「My notebooks」(我的筆記本) 頁面。
-
在「Region」(區域) 選單中，選取包含筆記本的區域。
-
按一下要開啟的筆記本。如果尚未建立筆記本，請建立筆記本。
-
在筆記本右側的側邊面板中，按一下「微調」按鈕。
側邊面板會展開「微調」分頁。
-
按一下「調整 Gemini 模型」按鈕。
Colab Enterprise 會在筆記本中加入程式碼儲存格，用於調整 Gemini 模型。
-
在筆記本中，找出儲存參數值的程式碼儲存格。 您將使用這些參數與 Vertex AI 互動。
-
更新下列參數的值：
-
PROJECT_ID：筆記本所在的專案 ID。 -
REGION：筆記本所在的區域。 -
TUNED_MODEL_DISPLAY_NAME：微調後模型的名稱。
-
-
在下一個程式碼儲存格中，更新模型微調參數：
-
source_model：要使用的 Gemini 模型，例如gemini-2.0-flash-001。 -
train_dataset：訓練資料集的網址。 -
validation_dataset：驗證資料集的網址。 - 視需要調整其餘參數。
-
-
執行側邊面板新增至筆記本的程式碼儲存格。
-
最後一個程式碼儲存格執行完畢後，按一下顯示的「查看微調工作」按鈕。
-
側邊面板會顯示模型微調工作的相關資訊。
- 指標準備就緒時，「監控」分頁會顯示調整指標。
- 資料集處理完畢後，「資料集」分頁會顯示資料集的摘要和指標。
- 「詳細資料」分頁會顯示調整工作的相關資訊，例如您使用的調整方法和基礎模型 (來源模型)。
-
調整作業完成後，您可以直接從「調整詳細資料」分頁前往模型測試頁面。按一下「測試」。
Google Cloud 控制台會開啟 Vertex AI 的「Text chat」(文字對話) 頁面，您可以在其中測試模型。
-
在 Google Cloud 控制台中，前往 Colab Enterprise 的「My notebooks」(我的筆記本) 頁面。
-
在「Region」(區域) 選單中，選取包含筆記本的區域。
-
按一下要開啟的筆記本。如果尚未建立筆記本，請建立筆記本。
-
在筆記本右側的側邊面板中，按一下「微調」按鈕。
側邊面板會展開「微調」分頁。
-
按一下「查看調整工作詳細資料」按鈕。
Colab Enterprise 會在筆記本中新增程式碼儲存格，以取得微調工作的詳細資料。
-
在筆記本中，找出儲存參數值的程式碼儲存格。 您將使用這些參數與 Vertex AI 互動。
-
更新下列參數的值：
-
PROJECT_ID：筆記本所在的專案 ID。 -
REGION：筆記本所在的區域。 -
TUNING_JOB_ID：Vertex AI 調整工作的 ID。
-
-
執行側邊面板新增至筆記本的程式碼儲存格。
-
最後一個程式碼儲存格執行完畢後，按一下顯示的「查看微調工作」按鈕。
-
側邊面板會顯示模型微調工作的相關資訊。
- 指標準備就緒時，「監控」分頁會顯示調整指標。
- 資料集處理完畢後，「資料集」分頁會顯示資料集的摘要和指標。
- 「詳細資料」分頁會顯示調整工作的相關資訊，例如您使用的調整方法和基礎模型 (來源模型)。
進一步瞭解 Vertex AI 中的模型調整作業。
如要進一步瞭解模型調整參數，請參閱「使用監督式微調功能調整 Gemini 模型」。
如要尋找可協助您快速啟動專案的筆記本，請參閱筆記本庫。
必要的角色
如要取得在 Colab Enterprise 筆記本中使用側邊面板所需的權限，請要求管理員將專案的下列 IAM 角色授予您：
如要進一步瞭解如何授予角色，請參閱「管理專案、資料夾和機構的存取權」。
調整模型
您可以在 Colab Enterprise 中使用側邊面板，在 Vertex AI 中調整模型。
按鈕。
查看調整工作的詳細資料
即使您不是在 Colab Enterprise 中建立及執行調整工作，也可以查看調整工作的詳細資料。您可以在 Colab Enterprise 中使用側邊面板，查看微調作業的詳細資料。