⚙️ Agent LLMOps 与面试实战
任务队列与 Worker
Agent LLMOps 与面试实战专题：用 2 个核心问题讲清原理、取舍与落地。
一句话定位
SLO、队列、幂等、容灾、网关、预算、CI/CD 和项目表达。 以一次业务任务而非一次模型请求为运维单位，覆盖在途状态、外部副作用和人工节点。
核心原理与问题解析
为什么长任务要异步队列？
HTTP 生命周期不适合分钟级任务，队列可削峰、重试、取消和恢复。API 返回 task_id，Worker 按租约执行，客户端通过事件或查询获取进度。
继续想： 消息重复怎么办？；任务优先级如何设计？
什么是租约 Lease？
Worker 领取任务后在有限时间拥有执行权并续租；崩溃后租约过期，其他 Worker 可接管。配合 Checkpoint 和幂等避免重复副作用。
继续想： 续租失败怎么办？；两个 Worker 同时执行如何防？
工程落地检查
- 定义任务成功率、P95/P99 和成本 SLO
- 长任务使用队列、租约与 Checkpoint
- 写操作使用幂等、Saga 和对账
- 灰度比较质量、安全、延迟与成本
- Runbook 明确止损、降级、恢复和责任人
常见误区
- 接口 200 就当任务成功
- 重试没有总预算和幂等
- 只监控模型，不监控工具、队列和业务结果
对应面试题
O03 为什么长任务要异步队列？ · O04 什么是租约 Lease？