Today for AI

EXPLORE / 06

术语索引

AI 与软件开发中的专用名词及其说明

RECORDS

实体记录

3360 条记录 · 27/84

  1. 1041

    相对位置编码

    基于 token 间相对距离而非绝对位置计算注意力权重的机制

    官网待补
  2. 1042

    语义路由

    基于输入内容的语义理解而非关键词匹配来分发请求的技术

    官网待补
  3. 1043

    混合模型

    协调多个专业化模型以共同服务不同请求或环境的系统架构方法

    官网待补
  4. 1044

    回归测试

    验证新代码变更未破坏现有功能或性能的测试方法

    官网待补
  5. 1045

    前馈神经网络

    Transformer 模块中用于非线性特征变换的全连接层结构

    官网待补
  6. 1046

    并行草稿生成

    一次性并行生成多个候选 token 而非逐个自回归生成的策略

    官网待补
  7. 1047

    SVE256

    Arm 可扩展向量扩展指令集的一种实现，用于并行数据处理

    官网待补
  8. 1048

    INT8 量化

    将模型权重和激活值从浮点数转换为 8 位整数以加速推理

    官网待补
  9. 1049

    Day-0 支持

    指新模型发布当天即可在特定框架或工具上无缝运行的能力

    官网待补
  10. 1050

    集合通信

    分布式训练中收集所有节点数据并广播给每个节点的通信原语

    官网待补
  11. 1051

    内存映射

    将文件直接映射到进程虚拟地址空间的技术，避免重复拷贝

    官网待补
  12. 1052

    扩散模型强化学习

    利用强化学习算法优化扩散模型生成质量的技术方法

    官网待补
  13. 1053

    置信度头

    神经网络中用于输出预测结果可靠性分数的附加模块

    官网待补
  14. 1054

    浮点非结合性

    浮点数加法顺序不同导致结果微小差异的特性

    官网待补
  15. 1055

    分片传输

    将大型数据集或模型权重分割成小块并行传输的技术

    官网待补
  16. 1056

    在线强化学习

    智能体在与环境交互的同时实时更新策略的学习范式

    官网待补
  17. 1057

    大语言模型推理服务

    将训练好的大模型部署为在线 API 服务的技术体系

    官网待补
  18. 1058

    预填充/解码分离

    将计算密集的预填充阶段与内存密集的解码阶段分开处理

    官网待补
  19. 1059

    预抢占

    中断当前请求并释放资源以便后续重新处理

    官网待补
  20. 1060

    解耦式服务

    将预填充与解码阶段分离至不同硬件资源以提升吞吐量的架构

    官网待补
  21. 1061

    混合精度量化

    在不同层或组件使用不同位宽数值格式以平衡精度与速度的方法

    官网待补
  22. 1062

    位级一致性

    不同计算引擎对相同输入产生完全相同的二进制输出结果

    官网待补
  23. 1063

    强化学习后训练

    在大模型预训练后使用强化学习优化对齐或推理能力的阶段

    官网待补
  24. 1064

    CUDA 算子

    基于 NVIDIA CUDA 平台编写的高性能并行计算内核函数

    官网待补
  25. 1065

    DSpark

    DeepSeek 提出的基于块级推测解码的增强算法，旨在提高 token 连贯性与接受长度

    官网待补
  26. 1066

    硬件解码

    利用专用芯片电路而非通用 CPU 进行视频流解压的技术

    官网待补
  27. 1067

    Prefill-Decode 分离

    将大模型推理中的预填充和解码阶段部署在不同计算资源上的架构技术

    官网待补
  28. 1068

    首字延迟

    从发送请求到生成第一个 token 所需的时间，衡量响应速度

    官网待补
  29. 1069

    分页注意力机制

    借鉴操作系统虚拟内存思想，动态管理 KV 缓存以消除碎片化

    官网待补
  30. 1070

    输出分布

    模型对下一个 token 的概率预测集合，反映其语言建模能力

    官网待补
  31. 1071

    自适应思考

    模型根据任务复杂度动态调整内部推理深度或计算资源分配的技术

    官网待补
  32. 1072

    运行时配置

    在程序执行期间动态调整参数或组件的行为，而非编译时固定

    官网待补
  33. 1073

    CUDA 图

    将 GPU 操作序列捕获为静态图以减少启动开销的技术

    官网待补
  34. 1074

    热重载

    在不重启服务或中断会话的前提下动态更新代码或配置

    官网待补
  35. 1075

    智能体轨迹

    记录智能体在执行任务时的状态、动作及反馈序列

    官网待补
  36. 1076

    能力商品化

    曾经稀缺的高级 AI 功能随技术普及变为低成本通用服务的过程

    官网待补
  37. 1077

    智能边际价值

    每增加一个单位的前沿 AI 能力所带来的额外经济收益

    官网待补
  38. 1078

    NAND 闪存

    非易失性存储技术，广泛用于固态硬盘和移动设备存储，具有高密度特性。

    官网待补
  39. 1079

    DRAM

    动态随机存取存储器，计算机主内存的主要形式，易失性且需定期刷新。

    官网待补
  40. 1080

    潜意识学习

    通过隐性信号或间接数据传递导致模型行为改变的学习方式

    官网待补