Alterna AI 字典

内容与核心概念

AI/人造情报
承认、规划、寻找解决办法和其他知识任务的方法和系统领域,而不是神经网的同义词。
ML/机器培训
根据关于目的和质量标准的数据和经验制定行为形成方法。
DL/ 深学习
学习变化和多层次代表的构成采用学习和学习方法。
模式/模式
在本章中,参数化退出转换。结构和参数值不同。
选项/重量
设定模型所选函数的编号; 可以手工培训或分配。 不是当前激活 。
Dataset
学习或评价的一套范例。 而不是每个前进方向都需要重读的基础 。
激活/启动
在当前入口处具体计算得出的中间数字结果。
Training
损失和梯度的计算以及随后对参数的更新。
Inference
这里: 应用固定参数模型。 不要混淆其他情况下的概率结论 。
调/ 调
分解的文本编码单位。 可以是单词、 单词部分、 符号部分或字节, 取决于符号 。
Embedding
矢量代表; 嵌入 Lokup 选择 ID 表格的行。 不需要坐标来显示人名 。
Attention
查询/关键系数和混合值。这些系数取决于输入,与预测参数不完全相同。
Logits
不太可能对候选人进行不正常的物理评价。
Softmax
将 Z 估计数转换成分布: exp(z_j)除以展览的总和。 减去总最大值可以提高可持续性。
背景/背景
为当前模式电话传输的数据:请求、指示、选定历史和外部信息。
RAG
使用回收的外部信息生成。 应要求搜索本身并不更新发电机的重量 。
应用程序内存
在调用中存储的外部记录。 当应用程序使用模型来组装输入时, 模型会受到影响 。
Tool
有限行动的外部行为人:权利和论据由环形检查,而不是由文件文本检查。
Skill
在课程内:一套指示/工作说明,该词不自动改变权重或权重。
Agent runtime
该方案管理该模式、工具和观测的呼叫周期,有限制和停机条件。
矢量
矢量空间元素。 一旦选择了基座, 它会记录在秩序坐标上。
基基基
独立独立的空间生产集 座标取决于基地
诺 诺 马
无负长度,三角形统一和不平等;仅对零向量为零。
标标工作
配对坐标数; 计算结果 。
Cosine similarity
点分为非零参数的Euclidic规则。
垂直投影
Euclidean 公积度中所选子空间的最接近矢量是其正向矢量。
兰
线形转换图像的大小; 数字级取决于容忍度。
SVD
A=U\VT至正对角基数和非负单称的降解。
渐渐
私有的标价衍生矢量;相对于选定坐标/计的本地增长。
Jacobian
J_ij 矩阵基于形状[退出、退出]。
Hessian
标量函数的第二个衍生物矩阵, 描述本地曲线 。
Likelihood
固定数据作为参数函数的概率/密度;没有事先设定的后方数据。
人类
平均 -log p 通过分布; nats 和 log2 的 nats 和 比特 。
Cross-entropy
目标平均 -logq。 CE( p, q) = H( p)+KL( p
KL divergence
平均对数(p/q)pp;非对称,非计量。
Perplexity
在弓上展示中等象征性日志损耗,或2度日志亏损。
Adam
适应性优化器,在EMA第一/第二时刻使用,并纠正最初的流离失所现象。
Generalization
新数据的质量不同于尽量减少已经使用的培训组的错误。
Precision
TP/(TP+FP):真实假设在预测假设中的比例;在零分母时,需要旋转。
Recall
TP/(TP+FN):实际职位中职位的百分比。
Centroid K-means
方格欧几里德目标指定非空区组点的算术平均值。
PCA
用于尽量分散集中数据的正向方向;对目标没有监督重要性。
激活功能
预设转换通常是非线性或元素性。 不要与特定的激活值混淆 。
MLP
这首歌由密密的方形层和隐藏的活化组成,带有单独的输出层。
LayerNorm
由一个实例选定代表的坐标标准化,通常随后是培训模范转换。
Residual path
添加 x+F(x) 和匹配形状; 创建一条直径, 但不保证非零总计 。
Automatic differentiation
通过当地规则和链规则进行电子计算衍生物;而不是财务违约或优化更新。
地形顺序
结节的顺序,在结结节之前,父母各取其父。
Floating point
通过标志、表征和标志进行演示,最后准确和特别编码。
Subnormal
带有最小编码的排出物且没有隐藏单位的编号; 在其支持模式中提供了一个逐渐的内流。 Name
FMA
乘以一次最后四舍五入; 通常是两次FLOP。
Arithmetic intensity
在所选内存模型中,计算操作与流量字节的比率。
Roofline
计为迷你(计算峰值,带宽度)的不是程序测量。
KV-cache
以自动递减推理而不是模型参数来缓存先前处理过的电流的密钥/价值。
Aliasing
选定离散后不同参考频率/光灯的不可区分性。
沼滩
线性操作 y[n]=h[j]x[n-j]; 在滑动窗口中, 形状包含核心革命 。
Cross-correlation
此处通过的Windows公约中没有核心扭曲的作品材料滚动总和。
DFT
FFT是一个快速算法的大家庭 用来计算他。
Receptive field
能够通过计算图影响选定输出元素的引用条目区域。
Byte-level BPE
受过训练的邻居常用字面配对协会;具体的正常化、先入字面化和弗兰克人是代言人合同的一部分。
Grapheme cluster
Unicode 代码点组, 被视为一个符号; 不一定是象征性模型 。
Skip-gram
任务是从中央标志中预测内容的标志,并进行介绍/外设演示。
Contextual state
处理环境序列后激活该物品;而不是嵌入线重的新线条。
Causal mask
对软最大之前适用的当前和以往条目的限制。
Multi-head attention
投影分空格中独立属性,与输出和输出相连接。
RoPE
Q/K 坐标对对的位置轮换,这使其相对依赖其卡路里工作。
SwiGLU
由Silu-Gate和高射预测、下射预测协调的FFF工作。
Pre-norm
剩余基质转换前的恢复正常位置。
LM head
在对数 vocabula 中投射隐藏状态; 本身不进行取样,也不能保证文字的真实性。
Pretraining
优化船体上的非对称目标,以进行任务特殊调整;学习内容的程度不等同于工业培训前培训。
Supervised fine-tuning
设置标志性的即时/反应实例,并有明显的认证和损失掩码。
Preference objective
关于所要求的数据和参考合同的软管/反应产出的半导数标准。
LoRA
与冻结的基本基质相比,低级可访问日期是额外日期;Frank和规模是合同的一部分。
Prefill
K/V州在步骤解码和填充前的所有快速处理。
Decode
从逻辑上讲,下一个象征是用固定的网网和不断增长的运行时间获得的。
Quantization
数字编码,有一套有限的整数代码和尺度,有可衡量的重建错误。
Retrieval
选择外部记录, 用于显然响亮的金融; 而不是网络更新,
Provenance
关于价值来源、其生产和通过系统路径的元数据。
All-reduce
复制品之间的集体集成值; 地形学和有效载荷应分别列出。
Tensor parallelism
使用装置打破传感器操作,然后进行跟踪或教育。
Pipeline parallelism
在阶梯上连续各层定位 并在电路中进行微插管操作
MoE routing
选择顶尖专家作为具有能力和溢出政策的象征性专家。
Multimodal token
在投影后按解码宽度进行再现视图/自动编码器的线。
Artifact manifest
合同的名称是代号、建筑、外观、种子、stape和重量。
Fail closed
没有行动、没有破损的准入,或状况不明或无效。