05
2021
优化算法重参数技巧
在机器学习中,我们经常遇到的一类目标函数:
最小化,需要对求导,得
计算此梯度意味着我们要从中采样,如果直接采样的话会直接失去的梯度信息。重参数技巧是采用随机变量的函数变换技巧,
...