对应模块：10-production
Development Environment — 开发环境 — 用于快速调试，应使用合成或脱敏数据而非复制生产敏感数据。
Staging Environment — 预发环境 — 尽量复刻生产模型与配置，用于全链路回归和故障演练。
Production Environment — 生产环境 — 承载真实流量，需要版本锁定、最小化日志、SLO 与变更治理。
Configuration Drift — 配置漂移 — 环境间模型、API 版本、超时或 prompt 不一致会破坏复现和审计能力。
Version Pinning — 版本锁定 — 使用固定模型快照与 API 版本，让线上行为对应已评估基线。
Secret Rotation — 密钥轮换 — 先部署并验证新凭证，再撤销旧凭证，以同时保障安全和可用性。
Service Account Key — 服务账号密钥 — 绑定共享工作负载身份，比个人密钥更适合可审计的服务端调用。
Workload Identity Federation — 工作负载身份联合 — 以云平台身份换短时效 token，减少生产静态密钥暴露窗口。
Blast Radius — 爆炸半径 — 单个 key、workspace 或服务故障能影响的最大范围，应通过隔离主动缩小。
Observability — 可观测性 — 通过 logs、metrics、traces 判断系统当前状态并定位异常。
Auditability — 可审计性 — 能追溯过去由谁、基于什么配置做了何种决策及结果。
Structured Log — 结构化日志 — 以稳定字段记录 request_id、模型、usage、错误和耗时，便于聚合与告警。
Metric — 指标 — 以 p50/p95/p99、错误率、成本、缓存命中和升级率衡量服务健康。
Trace — 链路追踪 — 将一次用户请求中的网关、模型、检索和工具调用关联为完整路径。
Span — 追踪片段 — 表示链路中的单个操作，需记录状态、耗时和父子关系。
Request ID — 请求标识 — Anthropic 响应提供的报障和跨系统对账锚点，应挂到模型 span。
OpenTelemetry (OTel) — 开放遥测标准 — 统一导出 traces、metrics 与日志事件，降低观测后端耦合。
Redaction — 脱敏 — 在日志入口移除 PII、凭证和敏感实参，同时保留可运营的元数据。
Personally Identifiable Information (PII) — 个人身份信息 — 默认不应进入通用日志，确需保留时要加密、限权并设期限。
Retry — 重试 — 仅用于幂等瞬时故障，并受总超时与次数预算约束。
Exponential Backoff — 指数退避 — 按尝试次数指数增加等待，减少持续冲击故障上游。
Jitter — 随机抖动 — 打散客户端重试时间，避免同步请求形成惊群。
Timeout Budget — 超时预算 — 从用户请求总时限向模型、工具、退避和降级逐层分配。
Fallback — 降级 — 主路径失败后切换次级模型、无检索回答、缓存或静态结果。
Degraded Response — 降级响应 — 质量或能力受限的结果，必须显式声明并单独计量。
Circuit Breaker — 熔断器 — 在系统性故障时快速失败并保护上游，状态为 closed/open/half-open。
Half-Open Probe — 半开探测 — 冷却后放行少量请求验证上游是否恢复，再决定闭合或继续熔断。
Escalation — 人工升级 — 在低置信、不可逆、合规或降级链打穿时把决策权交还人类。
Thundering Herd — 惊群 — 大量客户端同时重试，使正在恢复的上游再次过载。
Rate Limit — 速率限制 — 常见为带 retry-after 的 429，应降速并在预算内重试。
Spend Limit — 消费上限 — 预算触顶时重试无效，应报警、提额或切换受控降级路径。
Idempotency — 幂等性 — 同一操作重复执行不会产生额外副作用，是安全重试的前提。
Prompt Caching — 提示缓存 — 复用稳定前缀以降低重复输入成本、延迟和部分 ITPM 压力。
Cache Breakpoint — 缓存断点 — 应放在跨请求稳定的最后一个块，放在动态内容会持续写入却不命中。
Time to Live (TTL) — 生存时间 — 缓存有效窗口，5 分钟与 1 小时方案有不同写入倍率和盈亏点。
Cache Hit Rate — 缓存命中率 — 决定缓存是否真正省钱，必须按业务前缀与流量间隔观测。
Input Tokens per Minute (ITPM) — 每分钟输入 token — 速率限制维度之一，多数模型的缓存读取 token 不计入该额度。
Message Batches API — 消息批处理 API — 为非实时大批任务提供 50% 计价，但受请求数、字节数和参数限制。
Model Tiering — 模型分层 — 根据任务难度、成功率、延迟与单价路由模型，而不是一律选最大或最便宜模型。
Tail Latency — 尾延迟 — p95/p99 反映慢请求体验，重试和串行校验会显著放大它。
Model Lifecycle — 模型生命周期 — Active、Legacy、Deprecated、Retired 决定可用性和迁移紧迫度。
Deprecation — 弃用 — 模型仍可调用但进入迁移期，应远早于退役日启动评估与灰度。
Retirement — 退役 — 模型请求停止工作，未迁移负载会直接失败。
Canary Release — 金丝雀发布 — 先让极小比例真实流量使用新版本，以限制未知风险影响面。
Gradual Rollout — 渐进式放量 — 逐档扩大新版本流量，并在每档观察质量、错误、成本与延迟。
Stable Hashing — 稳定哈希 — 让同一用户或会话固定进入同一版本，避免体验抖动并提高对比可信度。
Regression Evaluation — 回归评估 — 用固定基准验证新模型或配置没有破坏历史能力。
Golden Dataset — 黄金数据集 — 覆盖真实分布、失败案例与边界条件的版本对比基准。
Rollback — 回滚 — 指标越界时快速切回已验证旧版本，模型和 prompt 必须保留可恢复配置。
Service-Level Objective (SLO) — 服务级目标 — 对成功率、延迟或质量设内部可量化目标，指导预算与告警。
📚 目录