优化算法1

优化算法重参数技巧
在机器学习中,我们经常遇到的一类目标函数: 最小化,需要对求导,得 计算此梯度意味着我们要从中采样,如果直接采样的话会直接失去的梯度信息。重参数技巧是采用随机变量的函数变换技巧,在不损失梯度的情况下对...