tensor

torch.nn.functional.normalize torch.nn.functional.normalize(input, p=2, dim=1, eps=1e-12, out=None) 功能 ：将某一个维度除以那个维度对应的范数(默认是2范数)。 v = v max ⁡ ( ∥ v ∥ p , ϵ ) v = \frac{v}{\max(\lVert v \rVert_p, \epsilon)} v = max ( ∥ v ∥ p ​ , ϵ ) v ​ 主要讲以下三种情况： 输入为一维 Tensor a = torch . Tensor ( [ 1 , 2 , 3 ] ) torch . nn . functional . normalize ( a , dim = 0 ) tensor ( [ 0.2673 , 0.5345 , 0.8018 ] ) 可以看到每一个数字都除以了这个 Tensor 的范数： 1 2 + 2 2 + 3 2 = 3.7416 \sqrt{1^2+2^2+3^2}=3.7416 1 2 + 2 2 + 3 2 ​ = 3 . 7 4 1 6 输入为二维 Tensor b = torch . Tensor ( [ [ 1 , 2 , 3 ] , [ 4 , 5 , 6 ] ] ) torch . nn . functional .

最近做大作业，用到了目标检测算法，要解决样本不均衡的问题。 样本不均衡除了数据扩增外，在损失函数上，容易想到，对于数目较少的类别，当检测类别错误时将惩罚加倍。这里从multibox loss下手，关于它的计算公式不再赘述，已有许多原理解析，写的相当不错。要来解析的是它的源码。 其实已有许多自称源码解析，但是对于重要的部分讲解并不是很详细。。甚至翻译了一下注释就略过了。。。囧 以下注解集合了各路神仙的帮助，以及一些个人理解，在此感谢某知乎作者（忘记叫啥了 和另一位CSDN博主。 以下代码包含了一小段解决样本不均衡问题的部分，因为本人其实是写java的。。所以python写的可能比较丑，另外直接取了第一个标签，因为不知道多标签的时候应该怎么样的。。。所以对一张图有多个标注的可能还需要另外处理。 多说几句，Tensor的很多语法一开始真的是难住了我这个python 0基础，比如一个Tensor 方括号中包含了另一个Tensor 和0比较的结果，之类的，一些很迷的操作，可能会有一些阻碍，解决方法就是多试试，然后就会发现，哦，原来这个操作是这样子的。 各位，共勉。 def forward(self, predictions, targets): """Multibox Loss Args: predictions (tuple): A tuple containing loc preds,

莫烦python《DDPG》代码中的’tf.stop_gradient()'不太理解，于是转载这篇好文。虽然还是没大懂，但是觉得有必要做个记录，方便以后学习。 以下内容均为转载内容，稍有改动： 引子 DQN中为什么要对q_target进行stop_gradient啊？这个函数在TensorFlow中还是很重要的，所以我们利用DQN的代码实例来说明该函数的作用。下面对其中的关键代码进行分析： No stop_gradient 这个版本就是人们写得相对较多的版本了，话不多说，直接上代码： . . . self . q_target = tf . placeholder ( tf . float32 , [ None , self . n_actions ] , name = 'Q_target' ) # for calculating loss . . . with tf . variable_scope ( 'loss' ) : self . loss = tf . reduce_mean ( tf . squared_difference ( self . q_target , self . q_eval ) ) with tf . variable_scope ( 'train' ) : self . _train_op = tf . train .

我把常用的Tensor的数学运算总结到这里，以防自己在使用PyTorch做实验时，忘记这些方法应该传什么参数。总结的方法包括： Tensor求和以及按索引求和 ：torch.sum() 和 torch.Tensor.indexadd() Tensor元素乘积 ：torch.prod(input) 对Tensor求均值、方差、极值 ：torch.mean() 、 torch.var() 、 torch.max() 、 torch.min() 求Tensor的平方根倒数 ：torch.rsqrt(input) 求Tensor的线性插值 ： torch.lerp(star,end,weight) 求Tensor的\双曲正切 ：torch.tanh(input, out=None) 元素求和 torch.sum(input) → \rightarrow → Tensor 返回输入向量input中所有元素的和。 参数： input (Tensor) - 输入张量 例子： torch.sum(input, dim, keepdim=False, out=None) → \rightarrow → Tensor 返回新的张量，其中包括输入张量input中指定维度dim中每行的和。 若keepdim值为True，则在输出张量中，除了被操作的dim维度值降为1，其它维度与输入张量input相同。否则

https://www.tensorflow.org/versions/r0.12/api_docs/python/math_ops.html#reduce_mean tf.reduce_mean(input_tensor, axis=None, keep_dims=False, name=None, reduction_indices=None) 计算tensor中各个维度上元素的平均值. 在给定维度axis上进行删减. keep_dims被设置为false的话, 原始变量的维度会减少1. 如果不对axis进行赋值, 那么返回所有元素的平均值. 例子: # 'x' is [[1., 1.] # [2., 2.]] tf.reduce_mean(x) ==> 1.5 tf.reduce_mean(x, 0) ==> [1.5, 1.5] tf.reduce_mean(x, 1) ==> [1., 2.] 来源： https://www.cnblogs.com/huangshiyu13/p/6534264.html