GAiLO-Blog

学习笔记

D2L 课程笔记、论文阅读与代码实验。

笔记分类 关于

分类

10 篇
8

数学与基础

数学基础、D2L 与 PyTorch。

查看笔记

深度学习

网络结构、优化方法与训练。

暂无笔记

大语言模型

Transformer、预训练、微调与推理。

暂无笔记
2

论文阅读

论文方法、实验结果与阅读批注。

查看笔记

实验与项目

代码实现与实验记录。

暂无笔记

数学与基础

8 篇
  • 系列：D2L 基础

    D2L 现代循环神经网络：门控、深层与序列到序列

    用于记录门控循环单元、长短期记忆网络及序列到序列建模的结构、推导和边界。

    D2L recurrent-neural-network gru lstm encoder-decoder sequence-to-sequence PyTorch
  • 系列：D2L 基础

    D2L 循环神经网络：序列建模基础

    记录序列概率分解、文本预处理、语言模型、循环计算与通过时间反向传播的定义、推导和边界。

    D2L recurrent-neural-network sequence-modeling PyTorch
  • 系列：D2L 基础

    D2L 优化算法：从 SGD 到 Adam

    记录梯度下降、动量法与自适应优化器的状态、更新公式、差异和适用边界。

    D2L optimization sgd momentum adagrad rmsprop adadelta adam adamw PyTorch
  • 系列：D2L 基础

    D2L 现代卷积神经网络：架构设计与演进

    记录现代卷积神经网络的架构设计、模块化方法、分类结构与训练经验。

    D2L convolutional-neural-network alexnet vgg nin googlenet inception densenet batch-normalization dropout global-average-pooling PyTorch
  • 系列：D2L 基础

    D2L 卷积神经网络：理论基础

    记录从全连接层到卷积的推导、参数共享、局部性、多通道表示、平移性质、卷积计算成本与 LeNet 结构。

    D2L convolutional-neural-network convolution parameter-sharing translation-equivariance channels padding stride pooling lenet PyTorch
  • 系列：D2L 基础

    D2L 多层感知机：表示、泛化、初始化与分布偏移

    记录多层感知机的非线性结构、PyTorch 实现、泛化控制、参数初始化与分布偏移纠正。

    D2L multilayer-perceptron activation-function overfitting weight-decay dropout xavier-initialization distribution-shift PyTorch
  • 系列：D2L 基础

    D2L 3.1–3.7 线性模型：从回归到 Softmax 分类

    记录线性回归、小批量随机梯度下降与 softmax 多分类的数学关系及 PyTorch 实现。

    D2L linear-regression softmax cross-entropy sgd optimization PyTorch
  • 系列：D2L 基础

    从计算图到批量反传：梯度传播、停止梯度与线性层

    从计算图、上游梯度与微分出发，推导停止梯度、单样本与批量线性层的反向传播。

    D2L 数学基础 深度学习 PyTorch

论文阅读

2 篇

正在加载…