✍️ Prompt 与上下文工程
缓存与请求去重
Prompt 与上下文工程专题:用 1 个核心问题讲清原理、取舍与落地。
一句话定位
提示合同、上下文选择、结构化输出、拒答和缓存。 把 Prompt 看作任务合同,把 Context 看作运行时选择出来的信息,而非一段越长越好的文字。
核心原理与问题解析
Prompt Cache 适合缓存什么?
适合稳定且重复的前缀,如系统指令、工具定义和公共上下文;动态用户数据放后面。缓存改善成本和延迟,但不能跨权限复用敏感上下文。
继续想: 为何顺序影响命中?;语义缓存和前缀缓存有何区别?
工程落地检查
- 明确目标、边界、成功与失败格式
- 区分可信指令和不可信数据
- 关键业务字段使用 Schema 校验
- 用失败样本做单变量回归
- 记录模板、变量、模型和工具版本
常见误区
- 用提示词代替权限系统
- 不断追加互相冲突的补丁规则
- 只测漂亮样例,不测拒答和攻击样例