列:英文术语 | 中文翻译 | 通俗解释 | 架构师相关性 | 常见混淆 维护:各模块构建时追加;最终由协调者合并入 GLOSSARY.md。
| 英文术语 | 中文翻译 | 通俗解释 | 架构师相关性 | 常见混淆 |
|---|---|---|---|---|
| Token | 词元 | 模型处理文本的最小单位,也是计费与限速的计量单位 | 成本估算、上下文预算、ITPM/OTPM 全部按 token | 与「字符/字节」混淆;中英文密度差异巨大 |
| Tokenization | 分词 | 把文本切成 subword 单元的过程 | 解释为什么不能按字符数做预算 | 与「编码 (encoding)」混淆 |
| Context Window | 上下文窗口 | 单次请求可引用的全部文本的「工作记忆」 | 上下文预算与多轮对话管理的地基 | 与「数据库/永久记忆」混淆——请求结束即消失 |
| Context Rot | 上下文衰减 | 上下文越长,准确率与召回越降 | 「把所有文档塞进 1M 窗口」不成立的官方依据 | 与「超窗报错」混淆——rot 在窗口内就发生 |
| Attention | 注意力 | 生成每个 token 时对上下文动态加权聚焦 | 解释长上下文成本、位置敏感性、开头结尾记得牢 | 与「存储」混淆——注意力不写入权重 |
| Next-token Prediction | 下一词预测 | 给定全部已有文本预测下一个 token 的核心机制 | 输出长度不可预知、streaming 基础、输出多样性 | 与「检索/查询」混淆 |
| Temperature | 温度 | 采样随机性参数(0 近似确定 → 1 多样) | 4.7+ 模型非默认值返回 400;行为控制转向 prompting | 与「结构化输出保证」混淆——温度不保格式 |
| Hallucination | 幻觉 | 生成看似合理但不真实的内容 | 概率系统固有属性;需接地/工具/评估分层缓解 | 当成可修的 bug |
| Adaptive Thinking | 自适应思考 | 模型自行决定思考量,effort 调节(Opus 5/Sonnet 5/Fable 5) | 成本/质量/延迟的主动权在 effort 参数 | 与手动 extended thinking 混淆(Haiku 4.5 仍是手动) |
| Training vs Inference | 训练 vs 推理 | 权重更新(Anthropic 侧,预发布)vs 权重冻结的请求期计算 | 推理期只能控制 prompt/上下文/工具/参数 | 与「微调定制」混淆 |
| Knowledge Cutoff | 知识截止 | 模型知识最可靠的截止日期 | cutoff 后的事实必须靠工具/检索 | reliable cutoff 与 training data cutoff 两个日期不同 |
| Grounding | 接地 | 把回答约束在可验证来源上 | RAG 与引用机制的目标;幻觉的架构级缓解 | 与「prompt 里要求准确」混淆 |
| 英文术语 | 中文翻译 | 通俗解释 | 架构师相关性 | 常见混淆 |
|---|---|---|---|---|
| Model Family | 模型家族 | Fable/Opus/Sonnet/Haiku 四条产品线 | 选型的第一层输入(价格/延迟/窗口三轴) | 把「更强」当默认答案;限流桶常比单价先卡住 |
| Pinned Snapshot | 固定快照 | 每个 model ID 指向固定权重版本 | 同 ID 同行为是回归测试与灰度升级的基础 | 与「自动升级到最新」混淆——换 ID 是主动决策 |
| System Prompt | 系统提示词 | 顶层 system 参数,无 "system" role | 角色与行为边界的规范位置;参与缓存前缀 | 与「塞进 user 消息」混淆——浪费缓存与稳定性 |
| Content Block | 内容块 | text/image/document/tool_use/tool_result 等结构 | 多模态与工具回路的原子单位 | 字符串 content 只是单 text block 的简写 |
| Visual Token | 视觉 token | 28×28 像素 patch,图片计量单位 | 多模态成本核算;两档分辨率上限不同 | 与「文件大小」混淆 |
| Stop Reason | 停止原因 | 本轮响应的 7 种完成方式 | 应用层分支的权威信号(截断/工具/拒答…) | 与「HTTP 错误」混淆;rate_limit_error 不是 stop_reason |
| SSE (Server-Sent Events) | 服务端推送事件 | streaming 的传输层 | 逐事件消费降低 TTFT;流内 error 事件要处理 | 与 WebSocket 混淆 |
| TTFT | 首 token 时间 | 发送请求到第一个 token 的时间 | 感知延迟的核心 SLO 指标 | 与总生成时长混淆——streaming 只改前者 |
| RPM / ITPM / OTPM | 每分钟请求/输入/输出 token | 三维速率限制 | 容量规划;cache-aware ITPM 是吞吐倍增器 | 忘了 OTPM 常是瓶颈(输出 5x 价) |
| Token Bucket | 令牌桶 | 容量连续回补的限流算法 | 短突发也会 429;客户端限速要平滑而非整分重发 | 与「整点重置」混淆 |
| Spend Limit | 花费上限 | 月度成本天花板(Start $500/Build $1K/Scale $200K) | 触顶后 429 无 retry-after,重试无效 | 与 rate limit 混淆——前者按月按钱 |
| Deprecation / Retirement | 弃用/退役 | 模型与参数的生命周期终点管理 | 变更管理流程输入;≥60 天通知;参数也会退役(temperature 400) | 只盯模型不盯参数弃用 |
| Model Snapshot / Pinned ID | 模型快照 | ID 生命周期内指向固定权重 | 生产可复现性的前提 | 与「云端自动最新」的期望冲突 |
| Alias | 别名 | 早期模型的便捷指针,解析到最新快照 | 别名会漂移,生产环境用固定快照 ID | 与快照 ID 混淆 |
| Model Routing | 模型路由 | 按任务类型/成本分层选模型 | 成本最大杠杆(不同档位 5–10x) | 以为单模型更「简单」就更好 |
| Cascade | 级联 | 便宜模型先过滤,边缘样本升强模型 | 兼顾成本与漏检;升级率是核心指标 | 与 ensemble 混淆 |
| Prefill | 预填充 | 末尾 assistant 消息约束输出开头 | 4.6+/Mythos Preview 已弃用(400);改结构化输出 | 以为等于 schema 校验 |
| Pause Turn | 暂停回合 | 服务端工具循环达迭代上限而暂停 | 原样回传 assistant 内容即可继续 | 当作错误 |
| Refusal | 拒答 | Claude 拒绝响应(读 stop_details) | 记录 + fallback 模型,勿盲目重试 | 与普通空响应混淆 |
| Cache-aware ITPM | 缓存感知限速 | 多数模型 cache 读取不计入 ITPM | 高缓存命中率 = 有效吞吐放大器 | 以为缓存 token 也占限速 |
| 英文术语 | 中文翻译 | 通俗解释 | 架构师相关性 | 常见混淆 |
|---|---|---|---|---|
| Workload Identity Federation | 工作负载身份联合 | 用短期 token 替代长期 API key | 无状态工作负载的密钥治理方案 | 与云平台 IAM 混淆(另一套体系) |
| Typed Exception | 类型化异常 | SDK 按 HTTP 错误抛对应类 | 按具体类分派处理策略,勿字符串匹配 | 与 catch-all 混淆 |
| Exponential Backoff | 指数退避 | base×2^n(±jitter) 的重试间隔 | 官方 SDK 默认行为;自建重试的基线公式 | 与固定间隔重试混淆 |
| Retry Budget | 重试预算 | 最大次数/时限约束 | 防重试风暴;重试也烧钱(计费不幂等) | 与无限重试混淆 |
| Retry-After | 重试等待 | 429 响应头,服务端指定等待秒数 | 优先于自身退避;spend-cap 429 无此头 | 假设所有 429 都有此头 |
| Cache Breakpoint | 缓存断点 | cache_control 标记的位置,最多 4 个 | 缓存粒度的控制点;自动/显式可混用 | 以为断点越多越好(上限 4) |
| Cache Invalidation | 缓存失效 | 前缀变化导致 miss | 稳定性设计:易变内容靠后;tool_choice 变化作废 messages | 与 TTL 过期混淆 |
| Message Batches | 消息批处理 | 异步批量 API,5 折 | 离线任务的默认架构;24h 过期/29 天取结果 | 与客户端并发混淆 |
| custom_id | 自定义批项 ID | 批内请求的业务标识(^[a-zA-Z0-9_-]{1,64}$) | 结果对账与重入的钥匙 | 与 request-id 混淆 |
| Request ID | 请求 ID | 每响应必带的追踪标识 | 报障/审计必带;错误体与响应头都有 | 与 custom_id/model ID 混淆 |
| Token Bucket (client) | 客户端令牌桶 | 按三维限流做平滑发送 | 防突发 429 与加速限制 | 与服务端令牌桶重复建设 |
| Billing Non-idempotency | 计费不幂等 | 重试无副作用但重复计费 | 重试预算也是预算控制;Batch 摧低重试成本 | 以为重试免费 |
| 英文术语 | 中文翻译 | 通俗解释 | 架构师相关性 | 常见混淆 |
|---|---|---|---|---|
| Function Calling | 函数调用 | Tool use 的别名 | 跨厂商语境下的同一概念 | 与「代码生成」混淆 |
| Client Tool / Server Tool | 客户端/服务端工具 | 执行位置在应用 vs Anthropic 基础设施 | 决定谁写执行器、谁管重试与权限 | 以为 server tool 也要自己执行 |
| tool_use / tool_result | 工具调用/结果块 | 回路的两个原子 block | 消息历史的结构约束全围绕它们 | 与 user text 混在同一消息里乱序 |
| tool_choice | 工具选择控制 | auto/any/tool/none 四级 | 判断权在模型与代码间的分配旋钮 | 与 strict 混淆(选不调 vs 调得对不对) |
| Parallel Tool Use | 并行工具调用 | 一轮多个 tool_use | 吞吐提升;执行侧要能对账与并发 | 忘了每个 tool_use 都要配对结果 |
| is_error | 错误标记 | tool_result 的失败信号 | 错误回传让 Claude 自我修正/改道 | 与 HTTP 错误混淆(这是对话内恢复机制) |
| Strict Tool Use | 严格工具使用 | strict:true 保证入参过 schema | 根除坏参数中断(模块 05 展开) | 与 tool_choice=any 混淆 |
| Human-in-the-loop | 人在环 | 不可逆动作执行前的人工确认 | 权限门的最高档;门在应用不在 prompt | 以为 prompt 里要求确认就是人审 |
| Indirect Prompt Injection | 间接提示注入 | 经 tool_result 内容注入恶意指令 | 工具结果是不可信输入面(模块 11) | 只防用户直接注入 |
| Permission Gate | 权限门 | 执行前的授权检查点 | LLM 指令 ≠ 授权机制的落地形态 | 与 schema 校验混淆(合法性≠权限) |
| High-signal Response | 高信号返回 | 工具只回下一步需要的字段 | 控制 token 预算与选择准确率 | 与「返回越多越好」直觉相反 |
| Agent Loop | 智能体回路 | tool_use↔tool_result 循环 | 停止条件必须代码兑底(模块 08) | 与单次工具调用混淆 |