前面我们介绍了正向传播, 反向传播, 梯度下降法. 也介绍了Pytorch中的损失函数和优化器, 数据加载器, 数据预处理, 和交叉熵. 这一篇, 我们使用之前学习到的所有知识, ...

这一篇我们介绍一下在多分类问题中经常会使用到的Softmax和交叉熵的概念. 特别的, 在Pytorch中, 因为损失函数CorssEntropyLoss中同时包含了Softmax...

上一篇我们介绍了Pytorch中如何导入数据. 但是为了使得训练的效果更好, 通常情况下我们需要对原始数据进行数据预处理. 所以这一篇会介绍数据预处理的相关内容, 这里主要是介绍关...

之前我们完成线性回归模型的时候, 在训练的时候是一下子把所有的数据都输入模型的, 但是在深度学习的时候, 数据量一般都是极大的, 我们无法一次性将数据加载到内存中, 于是就有了数据...

上一篇我们主要讲了线性回归问题. 但是, 有很多问题不是线性函数可以解决的, 这个时候需要引入了激活函数来解决非线性的问题. 同样, 常见的激活函数已经在Pytorch中定义好了,...

在这一部分, 我们会首先说明使用Pytorch进行模型的定义, 使用nn.Linear来完成线性模型的定义, 再结合之前的损失函数和优化器, 给出一个完整的线性回归的例子

在之前的内容中, 我们通过自己定义的损失函数和系数更新的方法来更新系数. 但其实在Pytorch中, 已经包含了相应的函数, 可以直接来计算损失, 和完成梯度下降. 所以在这一部分...

之前我们讲了如何求梯度, 如何使用Pytorch求解梯度. 这里我们介绍梯度下降法, 用一个例子, 介绍如何优化参数.

这里主要介绍在Pytorch中Hook的使用, 我们可以用其来保存非叶子节点的梯度.

这一篇主要通过一个例子, 来介绍正向传播与反向传播的相关内容.