在生成式 AI 領域,建立基準是指將模型輸出內容連結至可驗證的資訊來源。如果讓模型存取特定來源的資料,基準功能就會限制模型要使用這些資料來源生成輸出內容,減少捏造內容的機率。
您可以使用 Vertex AI,透過下列方式建立模型輸出內容的基準:
- 以 Google 搜尋建立基準:以公開網路資料建立模型基準。
- 以自有資料建立基準 - 使用 Vertex AI Search 做為資料儲存庫,以自有資料建立模型基準。
如要進一步瞭解基準建立功能,請參閱基準建立總覽。
支援的模型
- Gemini 2.5 Flash-Lite
- Gemini 2.5 Flash with Live API native audio (預先發布版)
- Gemini 2.0 Flash with Live API (預先發布版)
- Gemini 2.5 Pro
- Gemini 2.5 Flash
- Gemini 2.0 Flash
參數清單
如需實作詳情,請參閱範例。
GoogleSearchRetrieval
根據公開資料生成回覆。
參數 | |
---|---|
|
必要條件: 以公開的網路資料為基礎。 |
Retrieval
以 Vertex AI Search 做為資料儲存庫,根據私人資料建立回覆基準。 定義模型可呼叫的擷取工具,以存取外部知識。
參數 | |
---|---|
|
必要條件: 以 Vertex AI Search 資料來源建立基準。 |
VertexAISearch
參數 | |
---|---|
|
必要條件: Vertex AI Search 的完整資料儲存庫資源 ID,格式如下: |
範例
使用 Google 搜尋,以公開網路資料建立回覆基準
以 Google 搜尋公開資料為回覆內容建立基準。在要求中加入 google_search_retrieval
工具。不需要其他參數。
Python
安裝
pip install --upgrade google-genai
詳情請參閱 SDK 參考說明文件。
設定環境變數,透過 Vertex AI 使用 Gen AI SDK:
# Replace the `GOOGLE_CLOUD_PROJECT` and `GOOGLE_CLOUD_LOCATION` values # with appropriate values for your project. export GOOGLE_CLOUD_PROJECT=GOOGLE_CLOUD_PROJECT export GOOGLE_CLOUD_LOCATION=global export GOOGLE_GENAI_USE_VERTEXAI=True
Go
瞭解如何安裝或更新 Go。
詳情請參閱 SDK 參考說明文件。
設定環境變數,透過 Vertex AI 使用 Gen AI SDK:
# Replace the `GOOGLE_CLOUD_PROJECT` and `GOOGLE_CLOUD_LOCATION` values # with appropriate values for your project. export GOOGLE_CLOUD_PROJECT=GOOGLE_CLOUD_PROJECT export GOOGLE_CLOUD_LOCATION=global export GOOGLE_GENAI_USE_VERTEXAI=True
使用 Vertex AI Search,以私人資料做為回覆基準
以 Vertex AI Search 資料儲存庫中的資料做為回覆基準。 詳情請參閱「AI Applications」。
使用私人資料做為回覆基準前,請先建立資料儲存庫和搜尋應用程式。
警告:目前這個「基礎」介面不支援 Vertex AI Search「區塊模式」。
Python 適用的 Gen AI SDK
後續步驟
如需詳細說明文件,請參閱下列內容: