ML和神经网络学术基础

内容与核心概念

收到的来源和有意义的检查:2026-09-11. 在执行之前,从网络资料可得到N01-N10来源,实验室的数目是它们自己的固定装置;文件结果无一可复制。
研究问题
章章章 章次 第一章 章 次 第一章
问 提问 问题 问题
支助支助支助 支助支持支助支助
06
如何教授 亲子回归 ? 逻辑评分与班级有何不同 ? 我们如何区分火车/验证/测试 ? 当精确度没有定义时 ? 为什么是多语种再教育? 签名/ 中心机器人 K 意味着如何变化 ? 如果一个组群是空的, 为何集中五氯苯甲醚 ?
N01,N04;五氯苯甲醚(也)数学区块M01 §2.12
07
光谱是什么? 正常的称重如何? 为什么一个符号与用词不同? 符号在哪里? 素类/素类? 使用什么GELU? 为何SALU是负的? 为什么方块不能解答 XOR ?
N02,N05,N08,N09
08
您如何计算批量层 ? 宽度/ 深度如何改变实际形状 ? 什么是参数数 ? 为什么零因子产生对称性? 种子因子选择什么尺度? 这样做的基础是什么? 剩余洗发机何时兼容? 为什么 XOR 列车不检查基因化 ?
N02,N03,N06,N07
09
您如何在添加/ mul/ tanh 中找到本地衍生物 ? 种子=1 与 dL/ dL 有何关联 ? 为什么不能删除再置新? 您在后退之前有什么? 我们如何检查辐射剂 ? 为什么不是后退优化步骤 ?
N03,N10;自己的供应链规则
源登记册
N01. Deep Learning — Machine Learning Basics
Ian Goodfellow, Yoshua Bengio, Aaron Courville, MIT Press, 2016, chapter5.
https://www.deeplearningbook.org/contents/ml.html
收到文字; 在§5.2的可见部分之后断开答复。 使用以下定义: 撕裂任务/操作/经验、受监督/不受监督、离线回归/MSE、多元能力/一般化。 书的后面部分不认为可读。 U- 规避能量化没有作为所有现代模型的普遍法律发布; “ 更多的数据永远不会损害任何算法的质量”没有先决条件地移动。
N02. Deep Learning — Deep Feedforward Networks
同一提交人,2016年,监护人6。
https://www.deeplearningbook.org/contents/mlp.html
收到的可见部分包含第6.1节, 带有全 XOR ReLU- example, §6.2 后勤/ 软体和稳定的登录损失。 答案稍后剪切; 书的章节没有申报 。 XOR 示例使用手动设置的重量, 演示中诚实保留了这些重量; 单独培训有自己的种子, 不需要获取全数网络 。
N03. Dive into Deep Learning — Forward/Backward Propagation
Aston Zhang, Zachary C. Lipton, Mu Li, Alexander J. Smola, CUP,2023, web1.0.3.
https://d2l.ai/_sources/chapter_multilayer-perceptrons/backprop.rst.txt
本节完全可见的字节:前方、反向链规则、矩阵辐射剂、动作记忆和梯度与更新的区别。 D2L 使用一个列协议; X[batch, in] w[ in, out] 用于我们的代码; 因此, dW=XTDZ, 而不是翻译源公式的盲本 。
N04. Stanford CS221 — K Means
Chris Piech 依据创用CC授权使用
https://stanford.edu/~cpiech/cs221/handouts/kmeans.html
现已收到签字/更新和假编码的文本。
差异 :
注释“ geomeric mean” 没有复制 : 方形 Euclidea 目标会最小化算术平均值 。 与 EM 的连接需要硬性指定/ 定义解释, 而不是任意软式 EM。 空组群保留了有明确签名的旧的环球机器人; 源提供随机重新启用。 这些是不同的工程政策 。
N05. Gaussian Error Linear Units
Dan Hendryricks, Kevin Gimpel,2016年,阿历克西夫:1606.08415,卡片5。
https://arxiv.org/abs/1606.08415
Abstract-only:
确认xx的定义。 我们的环比使用明确签名的坦纳-接近N08, 而不是精确的高西亚CDF。 我们不答应学生从抽象角度改进基准。
N06. Layer Normalization
Jimmy Lei Ba, Jamie Ryan Kiros, Geoffrey Hinton,2016, arXiv:1607.06450.
https://arxiv.org/abs/1607.06450
Abstract-only:
有关一个例子的隐藏组件, 即 effine 增益/ bias, 相同的 LN 计算 trinn/ test。 这和 BatchNorm 不同。 公式及其算术已明确设定; 无法保证通用速度增益 。
N07. Deep Residual Learning for Image Recognition
Kaiming He, Xiangyu Zhang, Shaoqing Ren, Jian Sun,2015, arXiv:1512.03385.
https://arxiv.org/abs/1512.03385
Abstract-only:
层输入的剩余结果。 特定 ResNet 和图像网络 的结果不会被复制。 我们的 F( x) = regain/ rereLU (x) 是一个透明的小例子, 未经RESNet 培训 。
N08/N09. PyTorrch GELU和SILU
PyTorrch捐助者,官方参考文件;核查了2026-09-11。
https://docs.pytorch.org/docs/2.14/generated/torch.nn.GELU.html
https://docs.pytorch.org/docs/2.14/generated/torch.nn.SiLU.html
第一次
/stable/
我将返回参考页, 然后实际收到指定的参考页。 我们可以看到xx, 坦赫接近c=G( 2/ Pi), 共同办公点044715, SiLU=x, 同一种外观语义 。
N10. Automatic Differentiation in Machine Learning: a Survey
Atilim Gunes Baydin, Barak A. Pearlmutter, Alexey Andreyevich Radul, Jeffrey Mark Siskind, JMLR18(153),2018; arXiv:1502.05767v4.
https://arxiv.org/abs/1502.05767
Abstract-only:
与符号/数字分离不同,AD是衍生物程序浮点计算前准确的方法组合。 特定的微型自动分解来自N03和链规则,不归结于未读纸质算法。
限制与核查
这是一次有针对性的教育审查:两本教科书(一本非独立作者教科书的两章)、斯坦福手册、几本主要摘要和API正式文件。八份独立文件没有为每章提交,也没有正式的同侪审查。一般评估只允许在小型培训多语种情况下进行:在工业回归中,优先选择QR/SVD。迷你自动格德支持有限的卡路里DAG;没有仲裁评估、高分级分离、高压分离或GPU。
数字示例在组装之前由独立的Python 校验,一旦实施,对小型 MLP 、 Charred-node 积累和双操作测试、 三角/ 重置的确定性 和回归00-05 的每个参数必须进行最终确定。