📚 首页 / glossary / glossary-foundations.md

glossary-foundations — track-foundations(M1–M4)术语表

列:英文术语 | 中文翻译 | 通俗解释 | 架构师相关性 | 常见混淆 维护:各模块构建时追加;最终由协调者合并入 GLOSSARY.md。

模块 01 — LLM 基础

英文术语中文翻译通俗解释架构师相关性常见混淆
Token词元模型处理文本的最小单位,也是计费与限速的计量单位成本估算、上下文预算、ITPM/OTPM 全部按 token与「字符/字节」混淆;中英文密度差异巨大
Tokenization分词把文本切成 subword 单元的过程解释为什么不能按字符数做预算与「编码 (encoding)」混淆
Context Window上下文窗口单次请求可引用的全部文本的「工作记忆」上下文预算与多轮对话管理的地基与「数据库/永久记忆」混淆——请求结束即消失
Context Rot上下文衰减上下文越长,准确率与召回越降「把所有文档塞进 1M 窗口」不成立的官方依据与「超窗报错」混淆——rot 在窗口内就发生
Attention注意力生成每个 token 时对上下文动态加权聚焦解释长上下文成本、位置敏感性、开头结尾记得牢与「存储」混淆——注意力不写入权重
Next-token Prediction下一词预测给定全部已有文本预测下一个 token 的核心机制输出长度不可预知、streaming 基础、输出多样性与「检索/查询」混淆
Temperature温度采样随机性参数(0 近似确定 → 1 多样)4.7+ 模型非默认值返回 400;行为控制转向 prompting与「结构化输出保证」混淆——温度不保格式
Hallucination幻觉生成看似合理但不真实的内容概率系统固有属性;需接地/工具/评估分层缓解当成可修的 bug
Adaptive Thinking自适应思考模型自行决定思考量,effort 调节(Opus 5/Sonnet 5/Fable 5)成本/质量/延迟的主动权在 effort 参数与手动 extended thinking 混淆(Haiku 4.5 仍是手动)
Training vs Inference训练 vs 推理权重更新(Anthropic 侧,预发布)vs 权重冻结的请求期计算推理期只能控制 prompt/上下文/工具/参数与「微调定制」混淆
Knowledge Cutoff知识截止模型知识最可靠的截止日期cutoff 后的事实必须靠工具/检索reliable cutoff 与 training data cutoff 两个日期不同
Grounding接地把回答约束在可验证来源上RAG 与引用机制的目标;幻觉的架构级缓解与「prompt 里要求准确」混淆

模块 02 — Claude 模型与消息

英文术语中文翻译通俗解释架构师相关性常见混淆
Model Family模型家族Fable/Opus/Sonnet/Haiku 四条产品线选型的第一层输入(价格/延迟/窗口三轴)把「更强」当默认答案;限流桶常比单价先卡住
Pinned Snapshot固定快照每个 model ID 指向固定权重版本同 ID 同行为是回归测试与灰度升级的基础与「自动升级到最新」混淆——换 ID 是主动决策
System Prompt系统提示词顶层 system 参数,无 "system" role角色与行为边界的规范位置;参与缓存前缀与「塞进 user 消息」混淆——浪费缓存与稳定性
Content Block内容块text/image/document/tool_use/tool_result 等结构多模态与工具回路的原子单位字符串 content 只是单 text block 的简写
Visual Token视觉 token28×28 像素 patch,图片计量单位多模态成本核算;两档分辨率上限不同与「文件大小」混淆
Stop Reason停止原因本轮响应的 7 种完成方式应用层分支的权威信号(截断/工具/拒答…)与「HTTP 错误」混淆;rate_limit_error 不是 stop_reason
SSE (Server-Sent Events)服务端推送事件streaming 的传输层逐事件消费降低 TTFT;流内 error 事件要处理与 WebSocket 混淆
TTFT首 token 时间发送请求到第一个 token 的时间感知延迟的核心 SLO 指标与总生成时长混淆——streaming 只改前者
RPM / ITPM / OTPM每分钟请求/输入/输出 token三维速率限制容量规划;cache-aware ITPM 是吞吐倍增器忘了 OTPM 常是瓶颈(输出 5x 价)
Token Bucket令牌桶容量连续回补的限流算法短突发也会 429;客户端限速要平滑而非整分重发与「整点重置」混淆
Spend Limit花费上限月度成本天花板(Start $500/Build $1K/Scale $200K)触顶后 429 无 retry-after,重试无效与 rate limit 混淆——前者按月按钱
Deprecation / Retirement弃用/退役模型与参数的生命周期终点管理变更管理流程输入;≥60 天通知;参数也会退役(temperature 400)只盯模型不盯参数弃用
Model Snapshot / Pinned ID模型快照ID 生命周期内指向固定权重生产可复现性的前提与「云端自动最新」的期望冲突
Alias别名早期模型的便捷指针,解析到最新快照别名会漂移,生产环境用固定快照 ID与快照 ID 混淆
Model Routing模型路由按任务类型/成本分层选模型成本最大杠杆(不同档位 5–10x)以为单模型更「简单」就更好
Cascade级联便宜模型先过滤,边缘样本升强模型兼顾成本与漏检;升级率是核心指标与 ensemble 混淆
Prefill预填充末尾 assistant 消息约束输出开头4.6+/Mythos Preview 已弃用(400);改结构化输出以为等于 schema 校验
Pause Turn暂停回合服务端工具循环达迭代上限而暂停原样回传 assistant 内容即可继续当作错误
Refusal拒答Claude 拒绝响应(读 stop_details)记录 + fallback 模型,勿盲目重试与普通空响应混淆
Cache-aware ITPM缓存感知限速多数模型 cache 读取不计入 ITPM高缓存命中率 = 有效吞吐放大器以为缓存 token 也占限速

模块 03 — Claude API 实战

英文术语中文翻译通俗解释架构师相关性常见混淆
Workload Identity Federation工作负载身份联合用短期 token 替代长期 API key无状态工作负载的密钥治理方案与云平台 IAM 混淆(另一套体系)
Typed Exception类型化异常SDK 按 HTTP 错误抛对应类按具体类分派处理策略,勿字符串匹配与 catch-all 混淆
Exponential Backoff指数退避base×2^n(±jitter) 的重试间隔官方 SDK 默认行为;自建重试的基线公式与固定间隔重试混淆
Retry Budget重试预算最大次数/时限约束防重试风暴;重试也烧钱(计费不幂等)与无限重试混淆
Retry-After重试等待429 响应头,服务端指定等待秒数优先于自身退避;spend-cap 429 无此头假设所有 429 都有此头
Cache Breakpoint缓存断点cache_control 标记的位置,最多 4 个缓存粒度的控制点;自动/显式可混用以为断点越多越好(上限 4)
Cache Invalidation缓存失效前缀变化导致 miss稳定性设计:易变内容靠后;tool_choice 变化作废 messages与 TTL 过期混淆
Message Batches消息批处理异步批量 API,5 折离线任务的默认架构;24h 过期/29 天取结果与客户端并发混淆
custom_id自定义批项 ID批内请求的业务标识(^[a-zA-Z0-9_-]{1,64}$)结果对账与重入的钥匙与 request-id 混淆
Request ID请求 ID每响应必带的追踪标识报障/审计必带;错误体与响应头都有与 custom_id/model ID 混淆
Token Bucket (client)客户端令牌桶按三维限流做平滑发送防突发 429 与加速限制与服务端令牌桶重复建设
Billing Non-idempotency计费不幂等重试无副作用但重复计费重试预算也是预算控制;Batch 摧低重试成本以为重试免费

模块 04 — 工具使用

英文术语中文翻译通俗解释架构师相关性常见混淆
Function Calling函数调用Tool use 的别名跨厂商语境下的同一概念与「代码生成」混淆
Client Tool / Server Tool客户端/服务端工具执行位置在应用 vs Anthropic 基础设施决定谁写执行器、谁管重试与权限以为 server tool 也要自己执行
tool_use / tool_result工具调用/结果块回路的两个原子 block消息历史的结构约束全围绕它们与 user text 混在同一消息里乱序
tool_choice工具选择控制auto/any/tool/none 四级判断权在模型与代码间的分配旋钮与 strict 混淆(选不调 vs 调得对不对)
Parallel Tool Use并行工具调用一轮多个 tool_use吞吐提升;执行侧要能对账与并发忘了每个 tool_use 都要配对结果
is_error错误标记tool_result 的失败信号错误回传让 Claude 自我修正/改道与 HTTP 错误混淆(这是对话内恢复机制)
Strict Tool Use严格工具使用strict:true 保证入参过 schema根除坏参数中断(模块 05 展开)与 tool_choice=any 混淆
Human-in-the-loop人在环不可逆动作执行前的人工确认权限门的最高档;门在应用不在 prompt以为 prompt 里要求确认就是人审
Indirect Prompt Injection间接提示注入经 tool_result 内容注入恶意指令工具结果是不可信输入面(模块 11)只防用户直接注入
Permission Gate权限门执行前的授权检查点LLM 指令 ≠ 授权机制的落地形态与 schema 校验混淆(合法性≠权限)
High-signal Response高信号返回工具只回下一步需要的字段控制 token 预算与选择准确率与「返回越多越好」直觉相反
Agent Loop智能体回路tool_use↔tool_result 循环停止条件必须代码兑底(模块 08)与单次工具调用混淆
📚 目录