🎯 学习重点：先掌握成对易混术语，再用“它影响成本、延迟、可靠性还是状态管理”解释每个词。 返回：模块 01 主讲义
🎯 学习重点：Token 同时连接模型处理、上下文容量、计费和限速，但四者的统计口径并不完全相同。
Token — 词元 — 模型处理与 API 计量的基本单位，容量规划不能用字符数直接替代。
Tokenization — 分词 — 将输入切成 token 的过程，语言、代码和 tokenizer 版本都会改变密度。
Tokenizer — 分词器 — 决定文本如何映射成 token，模型升级后必须重新校准旧启发式。
Subword Unit — 子词单元 — Token 常是词的一部分而非完整单词，因此“单词数=token 数”是错误预算。
Visual Token — 视觉词元 — Claude 以 28×28 像素 patch 计量图片，但超档位图片会先缩放。
Patch — 图像块 — 视觉输入按宽高分别向上取整成 patch，边界像素也会多占一格。
Token Counting API — Token 计数 API — 在发送正式请求前计算输入 token，是报价和硬窗口判断的基准工具。
MTok — 百万 token — 模型输入/输出单价的常用单位，输入与输出通常要分开核算。
ITPM — 每分钟输入 token — 输入侧容量约束；多数模型的 cache read token 不计入 ITPM，但仍占窗口。
OTPM — 每分钟输出 token — 输出侧容量约束；thinking token 也会消耗它。
Usage — 用量字段 — 应拆分 input、output、cache read 与 cache creation，避免总量掩盖事故根因。
🎯 学习重点：Attention 能利用当前上下文但不会写入数据库或权重；生成结束信号必须由应用读取。
Transformer — 变换器 — 以注意力为核心的 LLM 架构，长输入的真实性能应通过真实负载压测。
Attention — 注意力 — 生成时对上下文动态加权，不是持久存储机制。
Next-Token Prediction — 下一词元预测 — 根据已有上下文预测下一个 token，解释了输出多样性与长度不确定性。
Probability Distribution — 概率分布 — 每一步对候选 token 的概率表示，采样改变选择方式但不执行事实校验。
Sampling — 采样 — 从下一 token 分布中选择输出，不能提供格式或事实正确性的硬保证。
Streaming — 流式传输 — 边生成边交付以降低感知等待，但不减少输出 token、总成本或生成工作量。
TTFT (Time to First Token) — 首 token 时间 — 观测输入处理与感知延迟的关键指标，应与总生成时长分开。
Stop Reason — 停止原因 — 应用层判断自然结束、截断或工具调用等分支的权威信号，HTTP 200 不能替代它。
End Turn — 自然结束 — stop_reason: "end_turn" 表示模型完成本轮，之后仍需格式和业务校验。
Max Tokens — 最大输出 token — 设置本轮输出上限且与 thinking 共享预算，并不是上下文窗口外的额外容量。
Truncation — 截断 — 达到 max_tokens 时输出可能不完整，禁止未经检查直接解析或写入下游。
🎯 学习重点：Context Window 是请求期工作记忆；缓存、压缩和检索分别解决不同问题，任何一个都不是永久记忆。
Context Window — 上下文窗口 — 单次请求可引用的输入与本轮输出总预算，是工作记忆而不是数据库。
Working Memory — 工作记忆 — 官方对 Context Window 的类比，强调可用但短暂且容量有限。
Context Rot — 上下文衰减 — token 增多时准确率与召回下降，在尚未超窗时就可能发生。
Stateless API — 无状态 API — Messages API 不替应用保存会话；相关历史必须每轮重发或由应用按需重建。
Conversation History — 对话历史 — 多轮推理的输入资产，持续全量重发会造成窗口、成本与延迟累积。
Context Engineering — 上下文工程 — 选择、排序、压缩并注入完成当前任务所需信息的系统化设计。
Retrieval — 检索 — 从外部资料中选择相关片段，通常比把全库塞进长窗口更可控。
Prompt Caching — 提示缓存 — 降低重复前缀计算/计费与多数模型 ITPM 压力，但不会扩展 Context Window。
Cache Read Input Tokens — 缓存读取输入 token — 缓存命中的前缀 token，仍参与窗口占用。
Compaction — 压缩 — 将长历史摘要化以释放预算，是有损转换，关键约束与原始审计记录不能丢。
Context Awareness — 上下文感知 — API 向支持模型注入剩余 token 预算信息，不能替代应用层硬上限与监控。
Model Context Window Exceeded — 模型上下文超限 — 需要裁剪、压缩或重算预算，原样重试不会解决根因。
🎯 学习重点：概念语义与具体模型支持要分开答；4.7+ 模型的非默认采样参数是版本陷阱。
Temperature — 温度 — 控制采样分布随机性的概念参数，不保证 JSON；4.7+ 模型非默认值会返回 400。
Top-p (Nucleus Sampling) — 核采样 — 从累计概率质量内采样的策略，不应与 temperature 同时调节。
Top-k — 前 k 采样 — 将候选限制为概率最高的 k 个；4.7+ 模型上非默认值同属弃用边界。
Reasoning — 推理 — 模型完成复杂任务的内部分析过程，需要用任务成功率衡量收益。
Thinking Tokens — 思考 token — 计入 max_tokens、上下文、输出计费与 OTPM，会挤占可见答案预算。
Adaptive Thinking — 自适应思考 — 新模型自行决定思考量，并由 effort 调节成本、质量与延迟。
Extended Thinking — 扩展思考 — 较早模型的手动 thinking 模式，不能假设在更新模型上仍可用。
Effort — 推理力度 — 按任务复杂度和风险分层设置，低价值简单任务不应无条件使用高档。
Model Capability Matrix — 模型能力矩阵 — 记录每个模型的窗口、输出、参数与思考模式，升级时用于契约测试。
🎯 学习重点：Grounding、Structured Output 和权限控制分别解决事实、形状和授权，三者不可互相替代。
Hallucination — 幻觉 — 生成看似合理但不真实的内容，是概率生成系统需要持续控制的风险。
Grounding — 接地 — 将回答约束到可验证来源或工具结果，是事实可靠性的架构层防线。
Citation — 引用 — 指向来源的证据标记；有引用不代表引用内容必然支持结论。
Structured Output — 结构化输出 — 用 schema 约束输出形状，比低温或“只输出 JSON”提示更可靠。
Schema Validation — 模式校验 — 验证语法与字段结构，仍需额外业务规则检查事实、范围和跨字段关系。
Deterministic Validation — 确定性校验 — 用代码执行可重复检查，承担模型不应独自承担的硬约束。
Human-in-the-loop — 人在环 — 在高影响或不可逆动作前加入人工批准，权限门应位于应用执行层。
Training — 训练 — 模型发布前更新权重的过程，不会因普通 API 对话自动发生。
Inference — 推理 — 权重冻结时处理当前请求，模型能使用的动态事实来自上下文与工具。
Reliable Knowledge Cutoff — 可靠知识截止 — 模型知识最全面可靠的日期边界，之后事实应通过工具或检索获取。
Training Data Cutoff — 训练数据截止 — 训练数据覆盖的较宽日期边界，不等于模型对期间每个事实都可靠。
Tool Use — 工具使用 — 让模型请求外部确定性能力或实时数据，但执行权限必须由应用层检查。
🎯 学习重点：模型参数与弃用状态属于易变事实，实施前应回到官方页面按目标模型重新核验。