pytorch中的钩子Hook）作用

 

 pytorch对于中间变量，一旦它们完成了自身反传的使命，就会被释放掉。

因此，hook就派上用场了。简而言之，register_hook的作用是，当反传时，除了完成原有的反传，额外多完成一些任务。你可以定义一个中间变量的hook，将它的grad值打印出来，当然你也可以定义一个全局列表，将每次的grad值添加到里面去。

至于register_forward_hook和register_backward_hook的用法和这个大同小异。只不过对象从Variable改成了你自己定义的nn.Module。当你训练一个网络，想要提取中间层的参数、或者特征图的时候，使用hook就能派上用场了。