總覽

Vertex AI Agent Engine 記憶庫可讓您根據使用者與服務專員的對話,動態產生長期記憶。長期記憶是指可跨多個工作階段存取特定使用者的個人化資訊。代理程式可以使用記憶庫,為使用者提供個人化回覆,並建立跨工作階段的連續性。

儲存庫的功能包括:

  • 可從多個環境存取的回憶永久儲存空間。您可以在 Vertex AI Agent Engine 上,透過本機環境或其他部署選項,使用 Vertex AI Agent Engine 工作階段和記憶體庫與已部署的代理程式搭配運作。

  • 使用大型語言模型 (LLM) 從會話中擷取回憶。

  • 回憶集會在遠端非同步產生,因此服務專員不必等待回憶集產生。

  • 根據相似度搜尋,針對使用者擷取回憶。

  • 如果您將 Vertex AI Agent Engine Memory Bank 與 Agent Development Kit 搭配使用,代理程式會自動讀取及寫入長期記憶。

Vertex AI Agent Engine 記憶體庫概念總覽

記憶體銀行會與 Vertex AI Agent Engine 工作階段整合,按照下列程序從儲存的工作階段產生回憶:

  1. (工作階段) CreateSession:在每個對話開始時建立新的工作階段。代理程式使用的對話記錄僅限於這個工作階段。工作階段包含使用者與代理程式互動時的訊息和動作 (SessionEvents) 時間順序。所有工作階段都必須有使用者 ID;這個工作階段的擷取記憶 (請參閱 GenerateMemories) 會對應至這個使用者。

  2. (工作階段) AppendEvent:當使用者與服務專員互動時,系統會將事件 (例如使用者訊息、服務專員回應、工具動作) 上傳至工作階段。這麼做可確保對話記錄持續存在,並建立對話記錄,以便用於產生回憶。

  3. (工作階段) ListEvents:使用者與代理程式互動時,代理程式會擷取對話記錄。

  4. (回憶集錦) 產生或建立回憶集錦:

    • GenerateMemories:在指定的間隔 (例如每個工作階段結束或每個對話回合結束) 時,機器人可觸發記憶,以便使用對話記錄產生記憶。系統會自動從對話記錄中擷取使用者相關資訊,以便在目前或日後的工作階段中使用。

    • CreateMemory:您的語音助理可以直接將回憶錄寫入 Memory Bank。舉例來說,服務專員可以決定何時應寫入記憶體,以及應儲存哪些資訊 (記憶體做為工具)。如要讓對話方更能控管擷取的事實,請使用 CreateMemory

  5. (Memory Bank) RetrieveMemories:當使用者與服務專員互動時,服務專員可以擷取該使用者儲存的回憶。你可以擷取所有回憶 (簡單擷取),或是只擷取與目前對話最相關的回憶 (相似搜尋擷取)。接著,您可以將擷取到的回憶插入提示中。

請參考下列快速入門指南,開始使用 Memory Bank: