Today for AI

EXPLORE / 06

术语索引

AI 与软件开发中的专用名词及其说明

RECORDS

实体记录

3419 条记录 · 85/86

  1. 3361

    文档加载器

    文档加载器（Document Loader）是屏蔽异构数据源格式差异的软件封装器。它能将 PDF、Markdown、JSON 以及第三方 API/数据库内容解析并统一标准化为包含文本与元数据的文档对象。

    官网待补
  2. 3362

    向量数据库

    向量数据库（Vector Database）是专为存储、索引和高效检索高维向量表征（Embedding）而设计的专用数据引擎。通过近似最近邻（ANN）算法与向量距离度量，在低延迟下实现 Top-K 相似度召回。

    官网待补
  3. 3363

    Evaluation Harness

    评测底盘，用于自动化评测智能体决策与工具调用能力的基准驱动平台，提供用例注入、环境隔离、多轮交互记录与自动化断言评分。

    官网待补
  4. 3364

    Agent Harness

    智能体运行底盘，包裹在 Agent 认知大脑外围的确定性宿主脚手架与控制面，管理沙箱环境生命周期、工具网关鉴权拦截、状态持久化快照与资源熔断。

    官网待补
  5. 3365

    上下文缓存

    上下文缓存（Context Caching）是指服务端将长提示词（System Prompt、代码库或长文档）计算得到的 KV Cache 在显存或内存中持久化保存的技术。当后续请求复用相同前缀上下文时，无需重新计算注意力矩阵，从而大幅降低首 Token 延迟（TTFT）与计算成本。

    官网待补
  6. 3366

    长程任务

    长程任务（Long-Horizon Task）是指需要 AI 系统跨越较长时间跨度、执行数十至数百步连续动作、维护中间状态并自主处理环境异常的复杂目标任务。区别于单轮对话，长程任务要求模型具备深度的规划能力、稳定的上下文记忆与自我纠错机制。

    官网待补
  7. 3367

    TPOT

    单 Token 生成延迟（Time Per Output Token，TPOT）指模型在输出首个 Token 后的自回归生成阶段中，平均生成每个后续 Token 所花费的时间（通常以毫秒为单位），其倒数对应单请求生成速度（Tokens/s）。TPOT 主要受模型参数量、KV Cache 内存带宽、量化计算效率与批处理并发度制约。

    官网待补
  8. 3368

    TTFT

    首 Token 延迟（Time to First Token，TTFT）指大模型推理服务从接收到客户端请求，到完成 Prompt 上下文 Prefill 计算并输出第一个生成 Token 所经历的端到端耗时。TTFT 主要受输入 Prompt 长度、计算并行度、Prefix Cache 命中率及排队等待时间影响，是衡量交互式应用首屏体感响应速度的关键指标。

    官网待补
  9. 3369

    连续批处理

    连续批处理（Continuous Batching / Iteration-level Scheduling）是现代 LLM 推理引擎（如 vLLM、TGI）的核心调度机制。不同于传统按请求粒度等待全 Batch 结束的静态批处理，连续批处理在每个生成迭代（Token Step）动态插入新到达的请求并移出已完成生成的请求，消除不同生成长度造成的 GPU 算力闲置，极大提升吞吐量。

    官网待补
  10. 3370

    模型路由

    模型路由（Model Routing / Dynamic LLM Routing）在多模型服务网关层根据入站任务的推理复杂度、安全风险等级、上下文长度、实时各供应商延迟健康度与财务预算，动态将请求分流至最适宜的模型（如将简单分类派发给轻量小模型，将复杂代码与长链推理派发给前沿推理模型），以实现系统性能、准确率与成本的最优平衡。

    官网待补
  11. 3371

    模型量化

    模型量化（Model Quantization）将大模型的权重矩阵或激活张量从高精度浮点数（如 FP32、FP16、BF16）转换为低位宽定点数表示（如 INT8、INT4、AWQ、GPTQ 或 GGUF），在保持可接受下游任务精度的前提下成倍压缩显存占用并提升计算吞吐。量化后的模型必须在目标任务与工具调用准确率上重新进行全面评测。

    官网待补
  12. 3372

    Prefix Cache

    前缀缓存（Prompt Prefix Caching）指推理服务引擎（如 vLLM、SGLang）在显存中缓存跨请求共享的静态 Prompt 前缀（如长系统提示词、固定工具 Schema 注册表或 RAG 公共背景）对应的 KV 状态。当新请求命中相同前缀时可直接复用计算结果，大幅缩短首 Token 响应时间（TTFT）并节省算力。

    官网待补
  13. 3373

    KV Cache

    键值缓存（Key-Value Cache，KV Cache）在大模型自回归解码（Autoregressive Decoding）过程中，将已计算历史 Token 的注意力键（Key）和值（Value）张量持久保存在显存中，避免每个新生成 Token 都对历史全量上下文进行重复前向计算。KV Cache 显著降低推理延迟，但随并发量与上下文长度呈线性增长，成为显存容量的主要瓶颈。

    官网待补
  14. 3374

    灾难性遗忘

    灾难性遗忘（Catastrophic Forgetting）指神经网络在特定下游数据集上进行微调或持续学习时，由于权重发生大幅更新，导致其在先前掌握的通用知识、推理逻辑或代码能力上发生急剧退化或丧失的现象。在 Agent 微调中，通常通过混入通用与安全数据、采用 LoRA 等参数高效方法以及建立通用回归评测集来预防。

    官网待补
  15. 3375

    Agentic RL

    智能体强化学习（Agentic Reinforcement Learning，Agentic RL）将强化学习优化目标从单轮文本生成扩展至多步骤环境交互与动作轨迹（Trajectory）。它依据 Agent 在沙箱或真实环境中的任务最终成功率、工具调用有效性、执行步数及环境反馈计算奖励，直接优化 Agent 的长链条规划、工具选择与自我纠错策略。

    官网待补
  16. 3376

    RLHF

    基于人类反馈的强化学习（Reinforcement Learning from Human Feedback，RLHF）通过收集人类对模型输出的偏好对比数据训练奖励模型（Reward Model），并利用 PPO 等强化学习算法优化策略网络，以最大化生成奖励同时惩罚与基线模型的 KL 散度。它广泛用于提升前沿模型的通用推理、多轮对话与安全对齐能力。

    官网待补
  17. 3377

    DPO

    直接偏好优化（Direct Preference Optimization，DPO）是一种跳过显式奖励模型构建与强化学习采样的模型对齐算法。它直接利用同一 Prompt 下的偏好与拒绝响应对（Chosen/Rejected Pairs），通过解析推导的闭式损失函数直接优化策略模型，使模型输出更符合人类偏好的风格、语气、简洁度与安全拒答边界。

    官网待补
  18. 3378

    QLoRA

    量化低秩适配（Quantized Low-Rank Adaptation，QLoRA）在 LoRA 基础上，将冻结的底座模型权重压缩为 4 位精度（如 NF4 数据类型），并通过双重量化与分页优化器进一步削减显存峰值，使得在单张消费级 GPU 上微调百亿参数大模型成为可能。训练时梯度反向传播仍以高精度（FP16/BF16）更新 LoRA 适配层。

    官网待补
  19. 3379

    LoRA

    低秩适配（Low-Rank Adaptation，LoRA）是一种参数高效微调（PEFT）技术。它冻结预训练模型的全部骨干权重，仅在注意力投影或全连接层旁路引入两个低秩可训练矩阵（A 与 B，满足 rank ≪ d），大幅降低训练显存占用与优化器状态开销。LoRA 允许在单套底座模型上针对不同业务场景热插拔多个轻量适配器。

    官网待补
  20. 3380

    SFT

    监督微调（Supervised Fine-Tuning，SFT）使用高质量的输入提示词与理想标准回答示例对（Prompt-Response Pairs），通过交叉熵损失优化预训练大模型的参数权重，使其精确模仿目标任务的输出格式、专业术语表达并提高指令遵循能力。在 Agent 架构中，SFT 常用于将复杂分类、信息提取或结构化工具调用协议蒸馏至轻量小模型中。

    官网待补
  21. 3381

    角色身份漂移

    角色身份漂移（Character Identity Drift）是指在长视频或多镜头生成过程中，同一人物的面部特征、发型、体态或服装细节随时间帧推进而逐渐发生形变或不一致的现象。这是长序列视频生成模型在上下文记忆与跨帧注意力衰减时的常见技术瓶颈。

    官网待补
  22. 3382

    局部视频编辑

    局部视频编辑（Local Video Editing）是指在已有视频片段的基础上，限定时间戳区间或空间遮罩（Mask），对背景、道具或人物属性进行定向修改的技术。该方法能够锁定未编辑区域的时序一致性与运动节奏，避免全段重新渲染带来的高昂计算成本与画面抖动。

    官网待补
  23. 3383

    多模态参考

    多模态参考（Multimodal Reference）是指在视频生成过程中，同时引入图像、视频、音频或 3D 白模等多种媒介形式作为条件引导（Conditioning）。该技术通过交叉注意力机制提取参考素材的身份、姿态、风格与时序特征，以实现对生成画面的高精度控制。

    官网待补
  24. 3384

    Autonomous Execution

    自主执行（Autonomous Execution）指 Agent 在预设的最大步数与权限控制边界内，无需人工按步干预而自主完成规划、调用工具与判断停止条件的闭环运行方式。它与 Human-in-the-Loop 互为补充，构成了 Agent 系统的动态运行区间。

    官网待补
  25. 3385

    InMemorySaver

    内存检查点（InMemorySaver）是 LangGraph 中基于内存字典实现的轻量级 Checkpointer。它在进程生命周期内保存状态快照，用于本地开发、单元测试与临时 demo 快速验证，但在服务重启后状态即丢失，不能直接作为生产环境的持久化方案。

    官网待补
  26. 3386

    Trajectory Evaluation

    轨迹评估（Trajectory Evaluation）是一种超越单一终点答案的 Agent 评测方法，重点审计 Agent 在执行过程中的工具选择合理性、参数精准度、步骤数量、死循环频率与越权行为。通过对比黄金轨迹（Golden Trajectory），能及时发现 Agent 的低效冗余动作。

    官网待补
  27. 3387

    Time Travel Replay

    时间回放（Time Travel Replay）利用 Checkpointer 保存的历史状态快照，将 Agent 重置回先前的任意执行节点，修改状态或分支路径后重新分叉（Fork）运行。它常用于生产事故故障排查、A/B 逻辑分支对照测试与调试人工修正介入。

    官网待补
  28. 3388

    Deterministic Boundary

    确定性安全边界（Deterministic Boundary）指在 Agent 架构中将模型决策与系统确定性代码明确分隔的技术边界。模型仅获权建议下一步意图或生成候选文本，而身份鉴权、敏感权限、金额上限、Schema 校验与重试规则必须强制由硬编码逻辑控制，拦截非预期行为。

    官网待补
  29. 3389

    Human-in-the-Loop

    人工介入机制（Human-in-the-Loop，HITL）在 Agent 触发高风险动作（如资金转账、代码部署、写数据库或删除敏感数据）时中断自动控制流，将结构化状态呈现给人工审查者，待接收显式批准或修正参数后再恢复执行，防止模型越权或误操作。

    官网待补
  30. 3390

    Checkpointer

    检查点持久器（Checkpointer）在 Agent 图节点每次转换或完成步骤后，自动将当前的 Agent State 快照持久化至数据库或内存中。它为 Agent 系统提供断点恢复、长会话记忆、人工审批暂停与历史轨迹回放能力，是实现高可用长任务的核心基石。

    官网待补
  31. 3391

    Agent State

    Agent 状态（Agent State）指在 Agent 执行生命周期中通过显式类型化 Schema（如 TypedDict 或 Pydantic）维护的单事实来源数据集。它严格区分用户目标、模型推理建议、外部检索证据、工具调用记录与异常错误码，避免将全部上下文混杂于纯文本聊天历史中。

    官网待补
  32. 3392

    StateGraph

    状态图（StateGraph）是 LangGraph 等 Agent 编排框架中的核心构件，它将 Agent 系统的控制流建模为显式的有向图。图中的节点（Nodes）为接收并更新状态的纯函数，边（Edges）或条件边（Conditional Edges）控制节点间的状态传递方向，确保复杂逻辑的确定性与可追踪性。

    官网待补
  33. 3393

    Router

    路由器模式（Router Pattern）利用模型或规则对输入的单次请求进行分类与意图识别，将其直接分流至固定的确定性处理链或专用 Agent。它是最简单、低延迟且易于测试的 Agent 架构，适合客服分类、订单查询与知识库问答等入口分流场景。

    官网待补
  34. 3394

    Plan-and-Execute

    计划与执行模式（Plan-and-Execute Pattern）先由规划器模型将复杂的宏观目标拆解为有序的子任务计划列表，再由执行器逐项调用工具完成，并在遇到异常或新证据时触发重规划（Replanning）。相比 ReAct，该模式更适合步骤较多、长链条的复杂交付任务，能显著降低长上下文中的漂移风险。

    官网待补
  35. 3395

    ReAct

    ReAct 循环（Reasoning and Acting Loop，ReAct）是一种让大模型交替执行推理思考（Thought）、工具选择与动作（Action）以及观察执行结果（Observation）的循环交互模式。它通过多轮观察反馈动态调整下一步策略，适用于路径未知的探索性任务，但需设立最大步数与重复动作拦截以防陷入死循环。

    官网待补
  36. 3396

    Ungrounded Generation

    无依据生成（Ungrounded Generation）指模型在生成回答时脱离检索到的上下文依据，或推导出上下文中没有出现的结论。这种脱离事实约束的行为是导致大模型产生幻觉的主要根源。

    官网待补
  37. 3397

    Citation Verification

    引用归属验证（Citation Verification）在模型生成包含引用标注（如 [S1]）的答复后，通过程序或评估器校验该引用 ID 是否真实存在、以及引用内容是否确实能支撑对应句子，防止生成虚假引用。

    官网待补
  38. 3398

    Direct Query Search

    原始 Query 检索（Direct Query Search）直接将用户输入的原始口语问句未经处理送入向量或全文索引检索。当问句中包含上下文代词（如“它”、“这篇文档”）或复杂多特征对比时，极易发生检索失败。

    官网待补
  39. 3399

    Query Rewriting

    Query 改写（Query Rewriting）利用大模型将用户输入的模糊、代词化或跨主题的原始问句重构为结构化的明确查询，或拆分为多个独立的搜索子查询，从而显著提升向量与全文检索的召回命中率。

    官网待补
  40. 3400

    Full Re-indexing

    全量重建索引（Full Re-indexing）在数据变更时对知识库中所有文档重新全量解析、分块、嵌入并建立索引。虽然能保持索引完全干净，但计算开销巨大，且容易在重建期间导致搜索服务不可用。

    官网待补