现在是2020年9月14日。
不知道别人有没有写过相关的论文。下面开始正文。
我先拿一个训练好的模型中conv层的w来说。下图是第一层的conv的w。每条线为一个维度的w。HDFview这个软件一次最多能画10组数据。这里就看这些吧。
观察图像你会发现一个规律，某一值附近，大部分曲线呈现一个走势，只有少部分相反，或者比较慢的走势。我在上图中画上了竖线，你会发现这个现象。
那么问题来了，能不能通过统计这总趋势来决定哪个feature的w重要呢？应该可以，通过这种方法来剪枝，更具有意义。
用一句话形容这种剪枝的精髓，法不责众，那就责孤吧。有空试试。