AI模型通过两种主要方式“记住”长期上下文:内部记忆和外部记忆。
内部记忆依赖于模型架构(如Transformer的注意力机制)在单次对话中处理有限长度的信息,被称为“上下文窗口”。
外部记忆通过将信息存储在模型之外的数据库(如向量数据库)中,在需要时检索,实现跨越多次对话的持久化记忆。用户可以通过明确指令、结构化输入等方式帮助模型更好地“记住”关键信息,通过管理记忆功能来控制模型的“遗忘”。