pytorch tensor clone, detach 之后梯度的变化

  • Post author:
  • Post category:其他




clone

clone()函数可以返回一个完全相同的tensor,新的tensor开辟新的内存,但是仍然留在计算图中。



detach

detach()函数可以返回一个完全相同的tensor,新的tensor开辟与旧的tensor共享内存,新的tensor会脱离计算图,不会牵扯梯度计算。

非常推荐大家阅读这篇博客:https://blog.csdn.net/winycg/article/details/100813519