数学块的学术基础

内容与核心概念

收件和检查日期:2026-09-09,研究报告是在网页执行之前完成的,培训实例是自我示例;收到信息来源并不意味着复制其实验。来源M01-M09的编号是指整个区块,以免复制同样的书目记录。
问题和证据图
章章章 章次 第一章 章 次 第一章
研究问题
支助支助支助 支助支持支助支助
01
空间是什么? 当一个设置是一个基数时是什么空间? 什么标准是正确的? 如何将点与角度联系起来? 当对焦线没有定义时? 为什么预测将其余部分最小化? 当单位改变时, 是什么变化 ?
M01, M02; 通过正对角平衡投射
02
矩阵列定义什么 ? 您如何获得彩色列产品 ? 为什么AB不是BA ? 什么是标准等级 ? 当不存在反比时 ? 是否总有真正的生物源? SVD 与 eigendecommation 有何不同? 哪些是低级储蓄,哪些不能保证?
M01, M02, M08
03
衍生物与骨骼有什么不同? 部分是什么? 是什么? 为什么闪烁剂最大化? 什么形式? Jacobian? 为什么你需要向后转移? 赫西安怎么说? 当测试无法解决问题时? 链条如何运作? 真相的传播与自动化有什么不同呢?
M03、M05;自己的分析结论
04
PMF 中什么是正常的 ? 密度与概率有何不同 ? 您如何将贝斯带出 ? 为什么不是后方 ? 它的对数在哪里 ? 当 CE 是无限的 时 ? 为什么 KL 不 距离 ? 你如何能不混淆地定义迷惑 ?
M04、M07;PP和代数几何平均值的定义
05
反梯度本地为何减少损失? 您如何获得广场的阶梯限制 ? SGD 与 GD 有何不同? 批量如何? 优化器究竟保留了什么? 为什么要控制偏差? 环西龙在哪里? 剪切与衰变有什么不同?
M05、M06、M09; 从选定公式得出的结论
来源来源来源
M01. 深层学习,第二章
Ian Goodfellow, Yoshua Bengio, Aaron Courville.
Deep Learning
麻省理工学院出版社,《2016年大学教科书》。
https://www.deeplearningbook.org/contents/linear_algebra.html
该章的实质性案文已经获得:定义、工作、跨度/独立、规则(第2.5节)、eigendecommagement(第2.7节)、SVD(第2.8节)、决定和投影输出(第2.2.12节),五氯苯甲醚(第2.2.12节)、决定因素和投射输出(HTML转换会损坏符号,因此我们的公式是独立写的,整个光谱定理机没有重新验证,单向方向可能包括反射,而不仅仅是弯曲。对称矩阵用于确定性。
M02. Dive into Deep Learning, Linear Algebra
Aston Zhang, Zachary C. Lipton, Mu Li, Alexander J. Smola. Cambridge University Press, 2023, web 1.0.3.
URL:
https://d2l.ai/_sources/chapter_preliminaries/linear-algebra.rst.txt
由 RST 接收; 工具的输出被切开, 可见部分确认卡路里、 矢量、 形状、 运输以及 Hadamard/ matmul 的区别 。 没有出现在可见答案中的末段不被视为已读取 。 Matmul和标准在 M01 上进一步检查。 带框架的代码尚未启动 。
M03. Dive into Deep Learning, Calculus
同一提交人,2023年,§2.4。
https://d2l.ai/_sources/chapter_preliminaries/calculus.rst.txt
衍生物、限值、部分衍生品、梯度和链根的定义也以多种方式在源代码中使用,使用移植版式衍生矢量函数;此处明确接受 jacobian J_ij, 形状 [退出、 退出] 。 因此, 后向被 J\ Tg 记录, 而不是在不进行形状测试的情况下复制公式 。
M04. Deep Learning, Probability and Information Theory
Goodfellow,Bengio,Courville,2016年,第三章。
https://www.deeplearningbook.org/contents/prob.html
获得的文本;可见 §3.3 - 3.8, §3.11 Bayes,§3.13 entropy/KL/CE。 结论的结尾被剪切。 这是一个中等学术来源, 而不是原香农。 名称和 PMF 、 相关性和独立性、 可能性和按参数分布的区别。 单位是 nats; 直线分解商不替换为离散商 。
M05. Dive into Deep Learning, Gradient Descent
Zhang et al., 2023, §12.3.
URL:
https://d2l.ai/_sources/chapter_optimization/gd.rst.txt
有泰勒动机、闪电速率、多维GD、牛顿/赫西安的RST。我们不容忍错误的源名词,称之为正趋同“线 ” : 下一步,误差方称为二次估计。 我们并不声称常规的二进制搜索解决了任何侧边搜索。 自己的例子使用正对角方形。
M06. Dive into Deep Learning, Adam
Zhang et al., 2023, §12.10.
URL:
https://d2l.ai/_sources/chapter_optimization/adam.rst.txt
已经获得了EMA等式、偏见控制、更新和执行实例。
差异:
公式和PyTorch-example 公式与 PyTorrch-Example 在Sqrt 之后的分母内有 epslon ; 在显示的 Tensor Flow 碎片中
+eps
第二点不是在减去平均正方块的情况下称为分散。 在我们的 Epsilon 实验室 = 1 e-8 外的 sqrt, 而是在分母内; 这是一个明确的选择, 而不是所有图书馆的身份说明 。
M07. Dive into Deep Learning, Information Theory
Chang等人,2023年,数学应用。
https://d2l.ai/_sources/chapter_appendix-mathematics-for-deep-learning/information-theory.rst.txt
获取了昆虫、KL和CE=H+KL的定义,结论后来被缩短。
我们不会抄写错误的示威:
具有负值的正常随机数数数的数组不是 PMF,而是 PMB
abs(KL)
源使用位元、 默认 nats; 指定了翻译系数 。
M08. LoRA: Low-Rank Adaptation of Large Language Models
Edward J. Hu, Yelong Shen, Phillip Wallis, Zeyuan Allen-Zhu, Yuanzhi Li, Shean Wang, Lu Wang, Weizhu Chen, 2021.
URL:
https://arxiv.org/abs/2106.09685
初初预印; 已收到
只显示 abstact 和元数据 v2
支持冻结交易前的灯光并培训Frank分解矩阵。作者和作者不会承诺任意网络会获得量化收益。BA公式及其自己的参数评分以形状为基础;研究者没有申报完整的培训食谱LORA。
M09. Adam: A Method for Stochastic Optimization
Diederik P. Kingma、Jimmy Ba、ICLR 2015;2014年预印本,卡片 v9 (2017年)。
https://arxiv.org/abs/1412.6980
初级工作;已接受
仅抽象/元数据
支持算法的起源和使用瞬间估计。公式由 M06 内容和独立的预言来检查,而不是一个草根。Adam 普遍趋同未被批准。M04/M07被用于第 04章的概率定义,而不是本文。
限制
这是对两本独立教科书和两本主要摘要的基本内容的有针对性的概述,而不是每章八本独立著作,一本书的各节不被视为独立作者。对于基本数学标题,提供了补充结论和自动数字重新核对。在专题工程专题中,我们仅限于连接未来章节的桥梁,而没有未经证实的基准批准。资料来源可在数学块的学术基页上查阅。