EXPLORE / 06
术语索引
AI 与软件开发中的专用名词及其说明
RECORDS
实体记录
3373 条记录 · 48/85
- 1881
长视频问答
针对时长较长、包含复杂时序信息的视频进行的问答任务
官网待补 - 1882
对抗性数据精炼
利用对抗机制或强模型生成干扰项，以筛选和优化数据集质量的方法
官网待补 - 1883
零配置
无需手动设置参数即可自动完成部署与优化的机制
官网待补 - 1884
采样策略
决定大模型如何从概率分布中选择下一个 token 的方法
官网待补 - 1885
多语言大模型
支持多种自然语言输入输出的大型语言模型
官网待补 - 1886
辅助模型
在主模型推理过程中提供初步预测或草稿的小型模型
官网待补 - 1887
开源数据集
允许公众自由访问、使用和修改的机器学习数据集合
官网待补 - 1888
人类偏好对齐
使模型行为符合人类价值观和偏好的训练过程
官网待补 - 1889
早期退出
允许数据在网络较浅层即得出结果，从而减少计算量并加速推理的策略
官网待补 - 1890
自注意力机制
允许模型并行处理序列并关注不同部分关系的机制
官网待补 - 1891
位置编码
为 Transformer 注入序列顺序信息的向量表示方法
官网待补 - 1892
多智能体辩论
多个AI代理通过相互质疑和论证来提升回答质量的技术
官网待补 - 1893
数据标注
为原始数据添加标签或注释以便监督学习的过程
官网待补 - 1894
命名实体识别
从文本中识别出人名、地名、机构名等特定类别实体的技术
官网待补 - 1895
预训练权重
模型在大规模数据集上训练后获得的参数集合，可用于下游任务微调
官网待补 - 1896
SigLIP
一种基于 sigmoid 损失函数的改进型 CLIP 视觉编码架构
官网待补 - 1897
模型分片
将大型模型参数分布到多个设备内存中以支持训练或推理
官网待补 - 1898
JAX
用于高性能数值计算和机器学习的 Python 库
官网待补 - 1899
LLM 作为裁判
利用大语言模型对生成结果进行质量评估的方法
官网待补 - 1900
解码器仅架构
仅使用 Transformer 解码器堆栈进行自回归生成的模型结构
官网待补 - 1901
Flash Attention
通过优化内存访问模式加速注意力计算并降低显存占用的算法
官网待补 - 1902
SwiGLU
结合 Swish 激活函数与门控线性单元的高效前馈网络结构
官网待补 - 1903
旋转位置编码
一种将绝对位置信息融入相对位置的注意力机制改进方法
官网待补 - 1904
推理效率
模型在生成输出时的计算速度与资源消耗表现
官网待补 - 1905
状态空间模型
一种用于序列建模的高效架构，具备线性复杂度特性
官网待补 - 1906
Logits
模型输出层未归一化的原始分数，经 Softmax 转为概率
官网待补 - 1907
核采样
从累积概率超过阈值的候选集中随机采样
官网待补 - 1908
贪心搜索
每步选择概率最高 token 的解码策略，易导致重复
官网待补 - 1909
显存可视化
图形化展示 GPU 内存分配、释放及碎片化的过程
官网待补 - 1910
CUDA 显存溢出
深度学习训练中因 GPU 显存不足导致的运行时错误
官网待补 - 1911
多任务学习
单一模型同时优化多个相关任务以提升泛化能力
官网待补 - 1912
静态嵌入
预先计算并存储的词向量表示，无需运行时动态生成
官网待补 - 1913
torch.compile
PyTorch 2.0 引入的即时编译技术，用于优化计算图性能
官网待补 - 1914
ONNX
用于表示深度学习模型的开放标准格式，支持跨平台部署
官网待补 - 1915
推理基础设施
支持大模型运行、响应请求并返回结果的硬件与软件系统架构
官网待补 - 1916
推理增强
通过增加计算资源或优化算法提升模型逻辑推导和问题解决能力
官网待补 - 1917
动作标记化
将连续的机器人控制信号转换为离散序列以适配 Transformer 处理的技术。
官网待补 - 1918
开源复现
在公开代码和数据基础上，重新训练以验证或模仿特定闭源模型性能的过程。
官网待补 - 1919
编码器模型
主要用于理解输入文本并生成向量表示的神经网络架构，常用于分类和检索任务。
官网待补 - 1920
去重
识别并消除重复数据以节省存储空间的技术
官网待补