为什么不能把所有资料都塞进提示词?

模型的回答取决于当次调用获得的信息。即使企业拥有正确的知识,如果系统把过期文档、无关记录或缺少权限说明的工具结果放进输入,智能体仍可能作出错误判断。上下文工程关注的是“此时、此任务、此用户需要哪些信息”,并让上下文随任务步骤变化,而不是把所有资料一次性塞进提示词。

如何为任务选择并更新上下文?

典型流程先识别任务目标、用户身份和可用资源,再从会话状态、企业知识库、业务语义和工具中选择材料。系统可通过检索补充证据,按优先级排列规则与数据,压缩冗长历史,并在调用工具后更新下一轮输入。例如,问数智能体先获得指标定义和可访问的数据范围,执行查询后再接收结果与执行状态;不同步骤所需的上下文并不相同。镜舟的数据到业务上下文实践(英文)展示了企业数据、业务语义和依据如何进入分析任务。

上下文工程还要处理冲突与时效:当两份文档对同一指标给出不同定义时,应优先使用经确认且仍有效的口径,并保留来源。涉及敏感信息时,要在取数和工具执行阶段落实权限,不能只靠提示词提醒模型“不要泄露”。

上下文工程与提示词工程、RAG 有何区别?

提示词工程主要优化任务指令和表达方式;上下文工程覆盖指令之外的检索内容、工具、记忆、状态及更新策略。RAG 是获取外部知识的一种手段,可以纳入上下文工程,但它本身不负责整个智能体循环。上下文窗口则是模型一次能处理的输入容量,容量变大也不能替代信息筛选。

常见问题

上下文越多,结果越好吗?

不一定。无关内容会挤占输入空间,也可能与有效规则冲突。应优先保证相关性、来源和时效,再考虑数量。

上下文工程只适用于 Agent 吗?

不是。搜索问答、文档摘要和代码助手也需要安排输入信息;Agent 因多轮决策与工具调用,对动态更新要求更高。

怎样评估效果?

可建立包含真实问题的测试集,分别检查检索命中、引用依据、任务完成率、权限遵守以及延迟和成本,并对失败案例回看当时实际提供的上下文。