版权声明:本文为博主原创文章遵循 版权协议,转载请附上原文出处链接和本声明
1、自动求导、基本步骤
# 首先记录记录需要求得梯度的变量,申请内存空间
# 对两个参量求导的步骤
# 这里res2就不是一个标量了
nn.Dense()函数可以不获得输入数据维度的情况下计算时直接推算出每一层权重的维度。但这种操作的前提是必须执行以下语句
之后执行初始化才能真正的为每一个参数进行初始化操作当我们想要在初始化之前对权重矩阵的参数进行调整的时候,显然这种延后初始化的过程是不可以接受的因此在定义网络的时候尽量指出输入维度
4、mxnet默认四维张量的维度为:(批大小,通道高,宽)全连接层为(批大小,通道*高*宽)
Mxnet如果运算所需的张量在GPU的显存之上就是使用GPU计算:
# 当我们申请的元素不在显存之上时这是需要拷贝 # 第一种如果拷贝对象与被拷贝对象同源那么久参数共享 不拷贝 # 无论怎样都重新申请空间存放拷贝对象