AI 知识库首页

最小权限、Guardrail 与人工审批

把模型建议与真正授权分开。

Agent 每一步只获得完成该步所需的工具、资源和时间范围。读写、开发生产、租户用户相互隔离;密钥保存在工具服务端,不进上下文。

Guardrail 层次

  • 输入:内容安全、范围、身份和注入信号;
  • 工具前:Schema、权限、业务规则、风险和审批;
  • 工具后:结果脱敏、完整性和异常;
  • 输出:隐私、合规、依据和目的地。

Guardrail 不是万能分类器。高风险动作依靠确定性规则和授权系统。

审批按风险分级:只读低风险自动;可逆写操作按阈值;不可逆或高价值动作必须审批。批准绑定具体参数,修改后重新审批,并以幂等方式执行。

关联面试题: F15 HITL · S04 退款 · S07 权限