概览

借助 Vertex AI Agent Engine 内存库,您可以根据用户与智能体的对话动态生成长期记忆。长期记忆是指可在特定用户的多个会话中访问的个性化信息。客服人员可以使用这些回忆来对用户进行个性化回复,并实现跨会话连续性。

内存银行的功能包括:

  • 可从多个环境访问的持久性存储回忆。您可以在 Vertex AI Agent Engine 上通过本地环境或其他部署选项,将 Vertex AI Agent Engine 会话和内存银行与已部署的智能体搭配使用。

  • 基于大语言模型 (LLM) 从会话中提取记忆。

  • 回忆是异步远程生成的,因此代理无需等待回忆生成。

  • 基于相似搜索检索范围限定为用户的回忆。

  • 如果您将 Vertex AI Agent Engine 内存银行与 Agent Development Kit 搭配使用,您的智能体会自动为您读取和写入长期记忆。

Vertex AI Agent Engine 内存银行概念概览

Memory Bank 与 Vertex AI Agent Engine 会话集成,以便使用以下流程从存储的会话生成记忆:

  1. (会话)CreateSession:在每次对话开始时,创建一个新会话。客服人员使用的对话历史记录的范围仅限于此会话。会话包含用户与您的智能体之间的互动中的消息和操作 (SessionEvents) 的时间顺序。所有会话都必须具有用户 ID;此会话的提取的回忆(请参阅 GenerateMemories)会映射到此用户。

  2. (会话)AppendEvent:当用户与智能体互动时,系统会将事件(例如用户消息、智能体回复、工具操作)上传到“会话”中。这既可确保对话记录持久保留,又可创建对话记录,以便生成回忆。

  3. (会话)ListEvents:当用户与代理互动时,代理会检索对话记录。

  4. (记忆库)生成或创建回忆:

    • GenerateMemories:在指定的时间间隔(例如每个会话结束时或每个回合结束时)代理可以触发使用对话历史记录生成回忆。系统会自动从对话历史记录中提取与用户相关的信息,以便在当前或未来的会话中使用。

    • CreateMemory:您的代理可以直接将内存写入内存银行。例如,代理可以决定何时写入内存以及应保存哪些信息(将内存用作工具)。如果您希望让聊天机器人更好地控制要提取的事实,请使用 CreateMemory

  5. (记忆库)RetrieveMemories:当用户与您的客服人员互动时,客服人员可以检索保存的与该用户有关的回忆。您可以检索所有回忆(简单检索),也可以仅检索与当前对话最相关的回忆(相似搜索检索)。然后,您可以将检索到的回忆插入到问题中。

请使用以下快速入门开始使用 Memory Bank: