ML Lecture 1_8 explanable ML
explanable ML不一定是要完全知道ML如何work，而是让人觉得舒服，觉得合理，觉得爽。
不能因为DL无法解释所以就不用他，这是削足适履。该用DL还得用，只是希望DL能够得到解释
ML Lecture 3_8 explanable ML local explanation
数码宝贝和宝可梦的分类，人的感觉是比较困难的
“胡乱叠的”网络，结果出奇的好。
画出的saliency map，注意力并没有关注到生物的本体上，以下为数码宝贝：
以下为宝可梦：
为什么？原来两种图片的背景不一样！网络看背景就可以分辨，相当于其实网络什么都没有学到
ML Lecture 6_8 explanable ML local explanation
用模型去解释模型，输出结果要尽可能相同