Explainable
Explainable/Interpretable ML 两种类型 Local Explanation Why do you think this image is a cat? Global Explanation What do you think a “cat” looks like? Point of Explainable ML 解释Ml的目的并不是完全的知道Ml model 的工作原理 人类的大脑同样是一个黑盒子 不相信训练网络因为它是黑盒子， 但是人们相信人类的判断 ML Explanation的目标是让你觉得理解， 对不同的人有不同的解释 Interpretable v.s. Powerful 一些模型是容易被解释的， 例如，linear model 从权重可以知道feature的重要性 深度学习不容易被解释 黑盒子 但是比linear model 更加powerful desision tree 可以被解释， 同时powerful？ 然而很多时候，tree是很复杂的， 我们用的是forest， 无法完全解释它。 Local Explanation components 拿掉或者改动， 这个coponents 对结果的改变影响很大， 这就是重要的component 移动灰色方块， 灰色放在蓝色部分辨识狗狗几率变小， 红色部分， 机器辨识度高。这方法要小心方块的大小