代理程式設定

代理程式有許多會影響行為的設定。每個控制台提供的設定皆不盡相同。

Conversational Agents 控制台代理程式設定

如何存取代理程式設定:

主控台

  1. 開啟 Conversational Agents 控制台
  2. 選擇 Google Cloud 專案。
  3. 選取代理程式。
  4. 按一下右上角的這些設定圖示。
  5. 視需要更新設定。
  6. 按一下 [儲存]

API

請參閱 Agent 類型的 getpatch/update 方法。

為代理程式參照選取通訊協定和版本:

通訊協定 V3 V3beta1
REST 服務專員資源 服務專員資源
RPC Agent 介面 Agent 介面
C++ AgentsClient 不適用
C# AgentsClient 不適用
Go AgentsClient 不適用
Java AgentsClient AgentsClient
Node.js AgentsClient AgentsClient
PHP 不適用 不適用
Python AgentsClient AgentsClient
Ruby 不適用 不適用

以下各節將說明不同類別的代理程式設定。

一般設定

代理人可使用下列一般設定:

  • 顯示名稱

    使用者可解讀的代理程式名稱。

  • 時區

    代理程式的預設時區。

  • 對話開始

    這個設定會決定您的服務機器人是使用生成式 Playbook 還是決定性流程來開始對話。

  • 服務專員位置

    建立代理程式時所選取的代理程式區域。

  • 代理人鎖定

    • 鎖定代理程式

      指出代理人是否已鎖定。無法編輯已鎖定的代理程式。

  • 記錄設定

    • 啟用 Cloud Logging

      指出代理程式是否已啟用 Cloud Logging

    • 啟用對話記錄

      指出您是否要 Google 收集及儲存經過遮蓋的使用者查詢,以便改善品質。

    • 啟用同意式使用者輸入內容遮蓋功能

      啟用這項設定後,您可以使用特殊的工作階段參數,控制是否要從對話記錄Cloud Logging 中遮蓋使用者輸入內容和參數。根據預設,工作階段參數為 true。如果停用這項設定,系統就不會遮蓋任何內容。

      系統會使用布林值工作階段參數 $session.params.conversation-redaction 收集使用者同意聲明。如果啟用這項設定,並將工作階段參數設為 false,系統就不會遮蓋任何內容 (其他遮蓋策略仍會套用)。如果啟用這項設定,且工作階段參數設為 true,系統就會遮蓋資料。

      同意聲明要求流程的範例如下:首先詢問使用者是否要保留使用者輸入內容,並將回應與兩個意圖配對,一個是「是意圖」,另一個是「否意圖」。接著,在執行的「yes intent」路徑的參數預設值中,將工作階段參數設為 false (沒有修訂),並在「no intent」路徑的參數預設值中設為 true (會進行修訂)。

  • BigQuery 匯出作業

    • 啟用 BigQuery Export

      指出是否已啟用 BigQuery 匯出功能。

    • BigQuery 資料集

      BigQuery 資料集名稱。

    • BigQuery 資料表

      BigQuery 資料表名稱。

  • 意圖建議

    您可以啟用意圖建議

  • 使用者意見回饋

    你可以啟用這項設定,針對服務專員的回答品質提供意見回饋,包括「喜歡」/「不喜歡」。

  • Git 整合

    使用這項設定可新增 Git 整合

生成式 AI 設定

可用的生成式 AI 設定如下:

  • 一般

    • 生成式模型選取

      選取生成式功能使用的模型。詳情請參閱「模型版本」。

    • 符記限制

      • 輸入權杖限制

        產生模型選取輸入符記限制。這是傳送至模型的輸入內容的符記大小上限。視模型而定,符記的長度介於一個字元和一個字之間。符記限制越小,延遲時間越短,但模型輸入大小會受到限制。符記限制越高,延遲時間就越長,但模型輸入大小可以更大。

      • 輸出符記限制

        生成式模型選取輸出符記限制。這是從模型收到的輸出內容中,符記大小的上限。視模型而定,符記的長度介於一個字元和一個字之間。符記限制越小,延遲時間越短,但模型輸出大小會受到限制。符記上限越高,延遲時間就越長,但模型輸出大小可能會變大。

    • 溫度

      大型語言模型的溫度可讓您控制回覆的創意程度。值越低,回覆就越可預測。值越高,回覆就會越有創意或隨機。

    • 背景資訊權杖限制

      這項設定會從 LLM 提示中剔除部分過往的回合,以便在每個由服務機器人處理的順序回合中,維持提示大小不變。這項功能可協助您減少不必要的提示大小。

      一般來說,如果不截斷,每個後續回合都會附加至 LLM 提示的「對話記錄」中,無論是否與目前回合相關。這可能會導致提示在每次轉換時不斷增加。由於對話記錄會佔用更多提示,因此提示可用於少量範例的比例會降低 (因此可能會遭到捨棄)。最後,提示訊息也可能會違反目前的權杖限制。您可以增加符記大小來因應這種情況,但請注意,提示大小增加也會增加 LLM 回應延遲時間。

      您可以使用「限制脈絡」功能,設定要保留的對話記錄符號集預算百分比上限。對話輪流會以最近到最舊的順序保留。這項設定可避免您超出符記限制。無論您選擇哪個設定,系統都會保留至少兩次對話輪次,並依最近到最久前的順序排列。

      您必須先設定符號限制,才能修改這項設定。

      如果參數是淘汰的回合,截斷內容可能會導致部分參數遭到意外遺失。啟用這個選項後,請仔細評估 Playbook 互動情形。

      權杖輸入預算也適用於下列項目:

      • 系統操作說明和範例:系統會自動將這些資訊加入提示中。無法修改這項行為。
      • Playbook 操作說明和目標:您撰寫的任何操作說明和目標都會完整加入提示中。
      • Playbook 少量樣本範例:會依序新增 (預設),或根據您選擇的演算法 (例如規則運算式最佳配對順序) 新增。在納入所有其他項目後,系統會篩除示例,以符合輸入符記預算。
      • 對話記錄,由使用者和服務機器人發言、流程和 Playbook 轉換內容、工具呼叫和輸出組成,這些內容來自目前 Playbook 依序處理的所有先前回合中的相同工作階段。
    • 禁用詞組

      禁止生成式 AI 使用的詞彙清單。如果提示或產生的回覆內容含有禁用詞組,系統就會失敗。請注意,禁止詞彙清單會影響每個查詢和 LLM 呼叫,並會增加延遲時間。

    • 安全篩選機制

      針對不同的負責任 AI 技術 (RAI) 類別,設定安全篩選器的敏感度等級。我們會根據下列四個類別評估內容:

      類別 說明
      仇恨言論 針對特定身分和/或受保護特質發表負面或有害言論
      危險內容 宣傳有害商品、服務和/或活動,或是提供接觸管道
      情色露骨內容 提及性行為和/或其他猥褻內容
      騷擾 針對他人發表含有惡意、恐嚇、霸凌和/或辱罵意圖的言論

      系統會按照有害機率封鎖內容。您可以為每個類別選擇「封鎖極少數內容」、「封鎖些許內容」和「封鎖多數內容」,自訂敏感度。您也可以提交專案的風險認知要求並獲得核准後,使用「Block none」限制選項,停用該類別的 RAI 檢查。

      詳情請參閱「設定安全性屬性」。

    • 提示安全性

      您可以勾選「啟用提示安全檢查」設定,啟用提示安全檢查功能。啟用後,代理程式會嘗試防範提示注入攻擊。這些攻擊可能會用來揭露部分介面提示,或提供介面不應提供的回應。這項功能會傳送額外的 LLM 提示,檢查使用者查詢是否可能含有惡意內容。

    • 生成式備用答覆

  • 資料儲存庫

    請參閱「資料儲存庫代理程式設定」。

確定性流程

這些設定會套用至這個服務代理中的所有流程,但每個流程都會套用機器學習設定。如要編輯其他流程專屬設定,請在控制台中前往該流程,然後編輯相關設定。

  • 意圖訓練

    Flows 會使用機器學習 (ML) 演算法來瞭解使用者輸入內容、比對意圖,以及擷取結構化資料。對話方塊會從您提供的訓練詞組和對話方塊內建的語言模型學習。然後根據這些資料,建立模型來比對意圖與使用者輸入內容。您可以為介面的每個流程套用專屬的機器學習設定。

    您可以使用下列意圖訓練設定:

    • 拼字校正

      如果啟用這個選項,而使用者輸入內容出現拼字或文法錯誤,將視同正確拼寫,逕行意圖比對。偵測意圖回應將包含更正後的使用者輸入內容。舉例來說,如果使用者輸入「I want an applle」,系統會視為使用者輸入「I want an apple」來處理。這也適用於涉及系統和自訂實體的比對。

      拼字校正功能支援英文、法文、德文、西班牙文和義大利文。適用於所有 Conversational Agents (Dialogflow CX) 地區

      警告與最佳做法:

      • 拼字校正無法校正 ASR (自動語音辨識) 錯誤,因此不建議使用 ASR 輸入的代理程式啟用此功能。
      • 校正後的輸入內容可能符合錯誤的意圖。您可以將經常拼錯的詞組新增到負面示例來修正此問題。
      • 拼字校正會稍微增加代理程式的回應時間。
      • 如果代理程式使用領域專用術語定義,校正結果可能不盡如人意。
    • 流程專屬機器學習設定

      • NLU 類型

        這可能是以下其中一個項目:

        • 進階自然語言理解技術 (預設):進階自然語言理解技術。這種 NLU 類型比標準類型更有效,特別適用於大型介面和流程。
        • 標準 NLU:標準 NLU 技術。不會再提供品質改善或新功能
      • 自動訓練

        如果啟用,系統會在控制台更新流程時訓練流程。對於大型流程,這可能會導致主控台 UI 延遲,因此您應停用這項設定,並視大型流程的需要手動訓練

      • 分類門檻

        如要排除誤判結果,但仍讓代理程式取得多樣的自然語言輸入內容比對結果,您可以調整機器學習分類門檻。這項設定可控制意圖比對所需的意圖偵測最低可信度。

        如果意圖比對的信心分數低於門檻值,系統就會叫用不相符事件

        您可以為每個流程設定個別的分類閾值,這些流程的語言必須是服務專員已啟用的語言。這麼做是為了讓不同語言在不同的分類門檻下發揮最佳效能。如要進一步瞭解如何建立多語言代理程式,請參閱多語言代理程式說明文件

      • 訓練狀態

        指出自流程資料的最新更新後,流程是否已訓練。

      • 訓練

        使用這個按鈕手動訓練流程。

    • 語言

      你的服務專員支援的語言。建立服務專員後,就無法變更預設語言。不過,您可以執行下列操作:

      1. 將代理程式匯出為 JSON 格式
      2. 將下載的檔案解壓縮。
      3. 找出 agent.json 檔案。
      4. defaultLanguageCodesupportedLanguageCodes 欄位更新為所需值。
      5. 還原代理程式,並將其還原至步驟 1 中所選的代理程式或其他代理程式。
      6. 視需要更新特定語言的訓練詞組和實體值。

      您也可以啟用語言自動偵測和切換功能。

連線能力

  • 自訂酬載範本

    在本節中,您可以為自訂酬載範本建立說明和酬載。

  • 參數定義

    清楚說明要將哪些工作階段參數傳送至 Webhook,以及 Webhook 回應可設定哪些工作階段參數。

  • 用戶端憑證設定

    用於上傳 SSL 憑證。

語音和 IVR

  • 語音選項

    • Text-to-Speech

      • 語音選取

        您可以選取語音合成功能使用的語言和語音。

        如要為服務機器人啟用自訂語音,請從語音選取方塊中選取自訂語音選項,然後在對應欄位中指定自訂語音名稱。自訂語音名稱必須採用以下格式:projects/PROJECT_ID/locations/LOCATION/models/MODEL_NAME

        你也可以使用語音複製功能。

        • 如果您使用電話網關,請確認 Dialogflow 服務代理服務帳戶 service-PROJECT_NUMBER@gcp-sa-dialogflow.iam.gserviceaccount.com 在自訂語音專案中已授予「AutoML 預測器」權限。
        • 針對一般 API 呼叫,請確認用於呼叫對話方塊 (Dialogflow CX) 的服務帳戶在自訂語音專案中具有「AutoML 預測器」角色。
    • Speech-to-Text

  • 通話小幫手

    請參閱「通話助理」。

UI 設定

您可以使用這些設定自訂 Messenger 和 Call Companion 使用者介面。

安全性

請參閱「安全性設定」和「存取權控管」。

Dialogflow CX 主控台服務專員設定

如何存取代理程式設定:

主控台

  1. 開啟控制台。
  2. 選擇 Google Cloud 專案。
  3. 選取代理程式。
  4. 按一下「服務專員設定」
  5. 視需要更新設定。
  6. 按一下 [儲存]

API

請參閱 Agent 類型的 getpatch/update 方法。

為代理程式參照選取通訊協定和版本:

通訊協定 V3 V3beta1
REST 服務專員資源 服務專員資源
RPC Agent 介面 Agent 介面
C++ AgentsClient 不適用
C# AgentsClient 不適用
Go AgentsClient 不適用
Java AgentsClient AgentsClient
Node.js AgentsClient AgentsClient
PHP 不適用 不適用
Python AgentsClient AgentsClient
Ruby 不適用 不適用

一般設定

代理人可使用下列一般設定:

  • 顯示名稱

    使用者可解讀的代理程式名稱。

  • 時區

    代理程式的預設時區。

  • 預設語言

    您的服務機器人支援的預設語言。建立服務專員後,就無法變更預設語言。不過,您可以執行下列操作:

    1. 匯出代理程式至 JSON 格式
    2. 解壓縮下載的檔案。
    3. 找出 agent.json 檔案。
    4. defaultLanguageCodesupportedLanguageCodes 欄位更新為所需值。
    5. 還原代理程式,並將其還原至步驟 1 中所選的代理程式或其他代理程式。
    6. 視需要更新特定語言的訓練詞組和實體值。
  • Agent lock

    • 鎖定代理程式

      指出代理人是否已鎖定。無法編輯已鎖定的代理程式。

  • 記錄設定

    • 啟用 Cloud Logging

      指出代理程式是否已啟用 Cloud Logging

    • 啟用互動記錄功能

      指出您是否要 Google 收集及儲存經過遮蓋的使用者查詢,以便改善品質。

    • 啟用同意式使用者輸入內容遮蓋功能

      啟用這項設定後,您可以使用特殊的工作階段參數,控制是否要從對話記錄Cloud Logging 中刪除使用者輸入內容和參數。預設的工作階段參數為 true。如果停用這項設定,系統就不會遮蓋任何內容。

      系統會使用布林值工作階段參數 $session.params.conversation-redaction 收集使用者同意聲明。如果啟用這項設定,並將工作階段參數設為 false,系統就不會遮蓋任何內容 (其他遮蓋策略仍會套用)。如果啟用這項設定,且工作階段參數設為 true,系統就會遮蓋資料。

      同意聲明要求流程的範例如下:首先詢問使用者是否要保留使用者輸入內容,並將回應與兩個意圖配對,一個是「是意圖」,另一個是「否意圖」。接著,在執行的「yes intent」路徑的參數預設值中,將工作階段參數設為 false (沒有修訂),並在「no intent」路徑的參數預設值中設為 true (會進行修訂)。

  • BigQuery Export

    • 啟用 BigQuery Export

      指出是否已啟用 BigQuery 匯出功能。

    • BigQuery 資料集

      BigQuery 資料集名稱。

    • BigQuery 資料表

      BigQuery 資料表名稱。

  • 意圖建議

    您可以啟用意圖建議

  • 自訂酬載範本

    在本節中,您可以為自訂酬載範本建立說明和酬載。

機器學習設定

Conversational Agents (Dialogflow CX) 會運用機器學習 (ML) 演算法來瞭解使用者輸入內容、比對意圖,以及擷取結構化資料。Conversational Agents (Dialogflow CX) 會從您提供的訓練詞組和 Conversational Agents (Dialogflow CX) 內建的語言模型學習。然後根據這些資料,建立模型來比對意圖與使用者輸入內容。您可以為代理程式的每個流程套用獨特的機器學習設定,而且 Conversational Agents (Dialogflow CX) 建立的模型會依流程而異。

可用的全代理程式 ML 設定如下:

  • 允許機器學習修正拼字錯誤

    如果啟用這個選項,而使用者輸入內容出現拼字或文法錯誤,將視同正確拼寫,逕行意圖比對。偵測意圖回應將包含更正後的使用者輸入內容。舉例來說,如果使用者輸入「I want an applle」,系統會視為使用者輸入「I want an apple」來處理。這也適用於涉及系統和自訂實體的比對。

    拼字校正功能支援英文、法文、德文、西班牙文和義大利文。適用於所有 Conversational Agents (Dialogflow CX) 地區

    警告與最佳做法:

    • 拼字校正無法校正 ASR (自動語音辨識) 錯誤,因此不建議使用 ASR 輸入的代理程式啟用此功能。
    • 校正後的輸入內容可能符合錯誤的意圖。您可以將經常拼錯的詞組新增到負面示例來修正此問題。
    • 拼字校正會稍微增加代理程式的回應時間。
    • 如果代理程式使用領域專用術語定義,校正結果可能不盡如人意。

您可以使用下列流程專屬 ML 設定:

  • NLU 類型

    這可能是以下其中一個項目:

    • 進階自然語言理解技術 (預設):進階自然語言理解技術。這種 NLU 類型比標準類型更有效,特別適用於大型介面和流程。
    • 標準 NLU:標準 NLU 技術。不會再提供品質改善或新功能
  • 自動訓練

    如果啟用,系統會在控制台更新流程時訓練流程。對於大型流程,這可能會導致主控台 UI 延遲,因此您應停用這項設定,並視大型流程的需要手動訓練

  • 分類門檻

    如要排除誤判結果,但仍讓代理程式取得多樣的自然語言輸入內容比對結果,您可以調整機器學習分類門檻。這項設定可控制意圖比對所需的意圖偵測最低可信度。

    如果意圖比對的信心分數低於門檻值,系統就會叫用不相符事件

    您可以為每個流程設定個別的分類閾值,這些流程的語言必須是服務專員已啟用的語言。這麼做是為了讓不同語言在不同的分類門檻下發揮最佳效能。如要進一步瞭解如何建立多語言代理程式,請參閱多語言代理程式說明文件

  • 訓練狀態

    指出自流程資料的最新更新後,流程是否已訓練。

  • 訓練 NLU

    使用這個按鈕手動訓練流程。

生成式 AI 設定

可用的生成式 AI 設定如下:

  • 一般

    • 禁用詞組

      禁止生成式 AI 使用的詞彙清單。如果提示或產生的回覆內容含有禁用詞組,系統就會產生失敗。

    • 安全篩選機制

      針對不同的負責任 AI 技術 (RAI) 類別,設定安全篩選器的敏感度等級。我們會根據下列四個類別評估內容:

      類別 說明
      仇恨言論 針對特定身分和/或受保護特質發表負面或有害言論
      危險內容 宣傳有害商品、服務與活動,或是提供接觸管道
      情色露骨內容 提及性行為或其他猥褻情事的內容
      騷擾 針對他人發表含有恐嚇、霸凌、辱罵或惡意意圖的言論

      系統會按照有害機率封鎖內容。您可以為每個類別選擇「封鎖極少數內容」、「封鎖些許內容」和「封鎖多數內容」,自訂敏感度。您也可以提交專案的風險認知要求並獲得核准後,使用「Block none」限制選項,停用該類別的 RAI 檢查。

      詳情請參閱「設定安全性屬性」。

    • 提示安全性

      您可以勾選「啟用提示安全檢查」設定,啟用提示安全檢查功能。啟用後,代理程式會嘗試防範提示注入攻擊。這些攻擊可能會用來揭露部分介面提示,或提供介面不應提供的回應。這項功能會傳送額外的 LLM 提示,檢查使用者查詢是否可能含有惡意內容。

  • 生成式虛擬服務專員

    • 生成式模型選取

      選取生成式功能使用的模型。詳情請參閱「模型版本」。

    • Playbook 內容截斷

      Playbook 內容截斷會從教戰手冊提示中刪除一些過去的回合,以免教戰手冊處理每個連續回合時,提示大小不斷增加。這項功能可協助您減少不必要的提示大小。

      一般來說,如果不截斷,每個後續回合都會附加至 LLM 提示的「對話記錄」中,無論是否與目前回合相關。這可能會導致提示在每次轉換時不斷增加。由於對話記錄會佔用較多提示,因此較少提示可用於少量範例 (因此這些範例可能會遭到捨棄)。最後,提示訊息也可能會違反目前的權杖限制。您可以增加符記大小來因應這種情況,但請注意,提示大小增加也會增加 LLM 回應延遲時間。

      透過 Playbook 脈絡截斷功能,您可以設定符號預算的百分比,用於保留對話記錄。對話輪流會以最近到最舊的順序保留。這項設定可避免您超出符記限制。無論您選擇哪個設定,系統都會保留至少兩次對話輪次,並依最近到最久前的順序排列。

      您必須先設定符記限制,才能修改這項設定。

      重要事項:如果參數屬於剔除的回合,截斷內容可能會導致部分參數遭到意外遺失。啟用這個選項後,請仔細評估 Playbook 互動情形。

      權杖輸入預算也適用於下列項目:

      • 系統操作說明和範例:系統會自動將這些資訊加入提示中。無法修改這項行為。
      • Playbook 操作說明和目標:您撰寫的任何操作說明和目標都會完整加入提示中。
      • Playbook 少量樣本範例:會依序新增 (預設),或根據您選擇的演算法 (例如規則運算式最佳配對順序) 新增。在納入所有其他項目後,系統會篩除示例,以符合輸入符記預算。
      • 對話記錄,由使用者和服務機器人發言、流程和 Playbook 轉換內容、工具呼叫和輸出組成,這些內容來自目前 Playbook 依序處理的所有先前回合中的相同工作階段。
  • 生成式備用答覆

  • 資料儲存庫

    請參閱「資料儲存庫代理程式設定」。

語音和 IVR 設定

可用的語音和 IVR 設定如下:

  • Text-to-Speech

    • 語音選項

      您可以選取語音合成功能使用的語言和語音。

      如要為服務機器人啟用自訂語音,請從語音選取方塊中選取自訂語音選項,然後在對應欄位中指定自訂語音名稱。自訂語音名稱必須採用以下格式:projects/PROJECT_ID/locations/LOCATION/models/MODEL_NAME

      • 如果您使用電話網關,請確認 Dialogflow 服務代理服務帳戶 service-PROJECT_NUMBER@gcp-sa-dialogflow.iam.gserviceaccount.com 在自訂語音專案中已授予「AutoML 預測器」權限。
      • 針對一般 API 呼叫,請確認用於呼叫對話方塊 (Dialogflow CX) 的服務帳戶在自訂語音專案中具有「AutoML 預測器」角色。
  • Speech-to-Text

DTMF

詳情請參閱「電話整合服務的 DTMF」。

多模態

請參閱「通話助理」。

共用設定

請參閱「存取權控管」。

語言設定

為您的代理程式新增其他語言支援。如需完整的語言清單,請參閱語言參考資料

自動偵測語言

設定語言自動偵測功能後,即時通訊服務專員就會自動偵測使用者的語言,並切換為該語言。詳情請參閱語言自動偵測說明文件

安全性設定

請參閱「安全性設定」。

進階設定

目前唯一的進階設定是情緒分析

AI Applications 控制台設定

本節說明代理程式應用程式可用的設定。

一般

代理程式應用程式可使用下列一般設定:

  • 顯示名稱

    代理程式應用程式的使用者可讀名稱。

  • 位置

    服務專員應用程式區域。

  • 應用程式鎖定功能

    如果啟用此選項,就無法變更代理程式應用程式。

記錄

代理程式應用程式可使用下列記錄設定:

  • 啟用 Cloud Logging

    啟用後,記錄檔會傳送至 Cloud Logging

  • 啟用對話記錄

    啟用後,系統就會提供對話記錄。指出您是否要 Google 收集及儲存經過遮蓋的使用者查詢,以便改善品質。這項設定不會影響是否使用對話記錄產生服務專員回覆。

  • 啟用 BigQuery Export

    啟用後,對話記錄會匯出至 BigQuery。您也必須啟用「啟用對話記錄」設定。

生成式 AI

代理程式應用程式可使用下列生成式 AI 設定:

  • 生成式模型選取

    選取代理程式預設應使用的生成模型

  • 輸入符號限制

    產生模型選取輸入符記限制。這是傳送至模型的輸入內容的符記大小上限。視模型而定,符記的長度介於一個字元和一個字之間。符記限制越小,延遲時間越短,但模型輸入大小會受到限制。符記限制越高,延遲時間就越長,但模型輸入大小可以更大。

  • 輸出符記限制

    生成式模型選取輸出符記限制。這是從模型收到的輸出內容中,符記大小的上限。視模型而定,符記的長度介於一個字元和一個字之間。符記限制越小,延遲時間越短,但模型輸出大小會受到限制。符記上限越高,延遲時間就越長,但模型輸出大小可能會變大。

  • 溫度

    大型語言模型的溫度可讓您控制回覆的創意程度。值越低,回覆就越可預測。值越高,回覆就會越有創意或隨機。

  • 禁用詞組

    禁止生成式 AI 使用的詞彙清單。如果提示或產生的回覆中出現禁用詞組,代理程式就會改為傳回備用回覆。

  • 安全篩選機制

    針對不同的負責任 AI 技術 (RAI) 類別,設定安全篩選器的敏感度等級。我們會根據下列四個類別評估內容:

    類別 說明
    仇恨言論 針對特定身分和/或受保護特質發表負面或有害言論
    危險內容 宣傳有害商品、服務與活動,或是提供接觸管道
    情色露骨內容 提及性行為或其他猥褻情事的內容
    騷擾 針對他人發表含有恐嚇、霸凌、辱罵或惡意意圖的言論

    系統會按照有害機率封鎖內容。您可以為每個類別選擇「封鎖極少數內容」 (僅封鎖有害機率高的內容)、「封鎖些許內容」 (有害機率中等和高) 和「封鎖多數內容」 (有害機率低、中和高),自訂敏感度等級。您也可以提交專案的風險認知要求並獲得核准後,使用「Block none」限制選項,停用該類別的 RAI 檢查。

    詳情請參閱「設定安全性屬性」。

  • 提示安全性

    您可以勾選「啟用提示安全檢查」設定,啟用提示安全檢查功能。啟用後,代理程式會嘗試防範提示注入攻擊。這些攻擊可能會用來揭露部分介面提示,或提供介面不應提供的回應。這項功能會傳送額外的 LLM 提示,檢查使用者查詢是否可能含有惡意內容。

Git

這些設定可提供 Git 整合功能。按照操作說明設定整合功能。