智能体需要记住哪些信息?
模型一次调用可见的对话并非持久记忆。智能体要跨步骤或跨会话延续工作,应用需要决定哪些内容值得保存、存在哪里、何时取回以及何时删除。记忆的价值在于帮助后续任务使用稳定且相关的经验,而不是无差别保存所有聊天记录。
短期状态与长期记忆如何存取?
短期记忆通常保存当前任务中的目标、计划、工具结果和待处理状态;长期记忆可保存经确认的偏好、业务定义、常用流程或历史案例。有些系统把信息存成结构化字段,有些使用文档与向量索引。取回时应根据当前用户和任务过滤,并区分用户明确确认的事实与模型自己推断的内容。对于企业环境,还要记录来源、更新时间和责任人,避免旧规则被长期沿用。
例如,分析智能体可记住用户偏好“按自然月汇总”,但不应把一次临时讨论中的“这个季度大概会增长”当作持久事实。跨用户共享的指标定义应放在受治理的业务语义或知识库中,而不是混进个人记忆。镜舟的数据到业务上下文实践(英文)描述了历史经验与企业上下文协同的场景。
记忆与当前上下文有何区别?
上下文窗口是当次模型调用的输入容量;记忆存在应用的持久存储中。只有被选择并取回的记忆才会进入当前上下文。记忆越多并不代表回答越好,不相关或未经确认的内容可能造成偏差。应允许纠正、过期和删除,并通过实际任务评估记忆是否产生帮助。
常见问题
智能体会自动记住所有对话吗?
不一定。是否持久保存由应用设计与用户设置决定,模型本身的上下文窗口不会自动形成长期记忆。
哪些信息适合记忆?
经确认、重复使用且对后续任务有明确价值的信息更适合;敏感数据需要额外限制。
如何避免错误记忆?
保存来源与确认状态,设置有效期,允许用户修正,并在使用前检查当前任务是否仍适用。