Tensor的裁剪可以防止过拟合的出现,也可以有效处理梯度爆炸与梯度消失
torch中可以利用clamp进行梯度裁剪
A.clamp(a,b)表示将A中的元素裁剪到只剩在a—b范围内,原来小于a的元素将赋值为a,大于b的元素将赋值为b
测试代码:
import torch
a = torch.rand(2, 3) * 10
print(a)
a = a.clamp(5, 8)
print(a)
版权声明:本文为weixin_59634927原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。