AI 知识库首页

隐私、密钥、沙箱与供应链安全

保护上下文、记忆、Trace、工具和第三方组件。

明确收集什么、为何使用、发送给谁、保存多久、如何删除。上下文、向量库、记忆、缓存、Trace 和备份都可能留副本,删除必须覆盖整条链路。

密钥只在服务端 Secret 系统;工具使用短期、最小作用域凭据。身份和 tenant_id 由可信应用注入,不能由模型生成。

代码和浏览器任务限制文件、网络、进程与资源,默认无内网和生产数据;危险输出隔离扫描后导出。

第三方模型、MCP Server、框架、插件和 Prompt 模板都可能改变行为。锁定版本、审查权限、验证来源,并把第三方输出视为不可信。

关联面试题: S13 多租户 · T12 MCP 风险 · T15 提示泄露

参考: OWASP Excessive Agency