SanitizeModelResponse 政策

本頁適用於 Apigee 和 Apigee Hybrid。

查看 Apigee Edge 說明文件。

「SanitizeModelResponse」政策會清理生成式 AI 模型的回覆，保護 AI 用戶端免於接觸有害或令人反感的內容。這項政策會使用 Model Armor 評估模型回覆是否含有有害或令人反感的內容，並透過 Apigee 為 AI 用戶端和工作負載提供原生保護機制。Model Armor 是 Google Cloud 一項提供 AI 安全性和安全措施的服務，可降低大型語言模型 (LLM) 相關風險。

這項政策會與 SanitizeModelResponse 政策搭配使用。

這項政策是可擴充的政策，視您的 Apigee 授權而定，使用這項政策可能會產生費用或使用量影響。如要瞭解政策類型和使用相關性，請參閱「政策類型」。

事前準備

使用 SanitizeModelResponse 政策前，您必須先完成下列工作：

• 建立 Model Armor 範本。您必須先完成這個步驟，才能建立「SanitizeModelResponse」政策。
• 設定 Model Armor 服務的 API 端點。

必要的角色

如要取得適用 SanitizeModelResponse 政策所需的權限，請要求管理員在您用來部署 Apigee Proxy 的服務帳戶上，授予下列 IAM 角色：

• Model Armor 使用者 (roles/modelarmor.user)
• Model Armor 檢視器 (roles/modelarmor.viewer)

如要進一步瞭解如何授予角色，請參閱「管理專案、資料夾和機構的存取權」。

您或許還可透過自訂角色或其他預先定義的角色取得必要權限。

啟用 API

Enable the Model Armor APIs.

Enable the APIs

<SanitizeModelResponse> 元素

定義 SanitizeModelResponse 政策。

<SanitizeModelResponse> 元素使用以下語法：

<SanitizeModelResponse async="false" continueOnError="false" enabled="true" name="sanitize-response">
  <IgnoreUnresolvedVariables>true</IgnoreUnresolvedVariables>
  <DisplayName>sanitize-response-sample</DisplayName>
  <ModelArmor>
    <TemplateName>projects/{project}/locations/{location}/templates/{template-name}</TemplateName>
  </ModelArmor>
  <UserPromptSource>{jsonPath('$.contents[-1].parts[-1].text',request.content,true)}</UserPromptSource>
  <LLMResponseSource>{jsonPath($.candidates[-1].content.parts,response.content,true)}</LLMResponseSource>
</SanitizeModelResponse>

<SanitizeModelResponse async="false" continueOnError="false" enabled="true" name="sanitize-response">
  <IgnoreUnresolvedVariables>true</IgnoreUnresolvedVariables>
  <DisplayName>sanitize-response-sample</DisplayName>
  <ModelArmor>
    <TemplateName>projects/{project}/locations/{location}/templates/{template-name}</TemplateName>
  </ModelArmor>
  <UserPromptSource>{jsonPath('$.contents[-1].parts[-1].text',request.content,true)}</UserPromptSource>
  <LLMResponseSource>{jsonPath($.candidates[-1].content.parts,response.content,true)}</LLMResponseSource>
</SanitizeModelResponse>

這個元素包含下列所有政策都適用的屬性：

下表概略說明 <SanitizeModelResponse> 的子元素：

projects/{organization.name}/locations/{system.region.name}/templates/{id}

{jsonpath('$.contents[-1].parts[-1].text',request.content,false)}

{jsonpath('$.input.prompt.text',request.content,false)}

子元素參照

本節將說明 <SanitizeModelResponse> 的子元素。

<DisplayName>

除了 name 屬性之外，您也可以在管理 UI 代理程式編輯器中使用其他更自然的名稱標記政策。

<DisplayName> 元素適用於所有政策。

<DisplayName> 元素使用以下語法：

<PolicyElement>
  <DisplayName>POLICY_DISPLAY_NAME</DisplayName>
  ...
</PolicyElement>

<PolicyElement>
  <DisplayName>My Validation Policy</DisplayName>
</PolicyElement>

<DisplayName> 元素沒有屬性或子項元素。

<IgnoreUnresolvedVariables>

判斷在變數未解析時是否停止處理。將其設為 true 可忽略未解析的變數，並繼續處理。

<TemplateName>

Model Armor 範本。

<TemplateName> 元素使用以下語法：

<ModelArmor>
  <TemplateName>projects/{project}/locations/{location}/templates/{template-name}</TemplateName>
</ModelArmor>

<ModelArmor>
  <TemplateName>projects/{organization.name}/locations/{system.region.name}/templates/{id}</TemplateName>
</ModelArmor>

<UserPromptSource>

要擷取使用者提示文字的酬載位置。系統僅支援字串文字值。

這個欄位支援 Apigee 訊息範本語法，包括使用 變數或JSON 路徑函式。例如：

{jsonpath('$.input.prompt.text',request.content,false)}

<LLMResponseSource>

要擷取的 LLM 回應有效載荷位置。系統僅支援字串文字值。

這個欄位支援 Apigee 訊息範本語法，包括使用 變數或JSON 路徑函式。例如：

{jsonpath('$.input.prompt.text',request.content,false)}

流程變數

您可以使用流程變數，根據 HTTP 標頭或訊息內容，或是流程中可用的內容，設定政策和流程的動態執行階段行為。如要進一步瞭解流程變數，請參閱「流程變數參考資料」。

政策可以在執行期間設定這些唯讀變數。

錯誤參考資料

本節說明傳回的錯誤代碼和錯誤訊息，以及 Apigee 針對 <SanitizeModelResponse> 政策設定的錯誤變數。如果您要開發錯誤處理錯誤規則，就必須瞭解這項資訊。如需更多資訊，請參閱「關於政策錯誤的相關資訊」和「處理錯誤」。

執行階段錯誤

部署錯誤

部署含有這項政策的 Proxy 時，可能會發生這些錯誤。

錯誤變數

當這項政策在執行階段觸發錯誤時，系統就會設定這些變數。詳情請參閱「關於政策錯誤的相關資訊」。

錯誤回應範例

{
  "fault": {
    "faultstring": "SanitizeModelResponse[sanitize-response]: unable to resolve variable [variable_name]",
    "detail": {
      "errorcode": "steps.sanitizemodelresponse.UnresolvedVariable"
    }
  }
}

錯誤規則範例

<FaultRule name="SanitizeModelResponse Faults">
    <Step>
        <Name>SMR-CustomSetVariableErrorResponse</Name>
        <Condition>(fault.name = "SetVariableFailed")</Condition>
    </Step>
    <Condition>(sanitizemodelresponse.failed = true)</Condition>
</FaultRule>

Model Armor 範本錯誤代碼和錯誤訊息

Model Armor 範本可覆寫 SanitizeModelResponse 政策 API 要求所擲回的錯誤代碼和錯誤訊息。如果使用者設定覆寫值，則 Model Armor 錯誤代碼和錯誤訊息會填入流程變數。

舉例來說，回應中含有 Model Armor 錯誤代碼和訊息，可能會如下所示：

{
"sanitizationResult": {
  "filterMatchState": "MATCH_FOUND",
  "filterResults": {...},
  "sanitizationMetadata": {
    "errorCode": "890",
    "errorMessage": "get out"
  },
  "invocationResult": "SUCCESS"
  }
}

結構定義

每個政策類型都由 XML 架構 (.xsd) 定義。如需參考，請前往 GitHub 查看政策架構。