这个问题当时我是在网上看了很多博客，大多是说卸载应用、重启手机等，但是这些方法只是适用于部分手机，而且现在的技术博客太千篇一律，互相抄袭，后来还是自己试验出了解决方法：
百度下发现MIUI等也有类似的问题，基本确定是Launcher对应用图标建立了缓存，最直接的破除缓存的方法就是修改应用的Package Name，换包名后重装图标就会显示正确，明显就是没有缓存的特征！然而，应用发布过后一般是不会更换包名的，所以这个方法实际应用意义不大，仅仅是确认了这个图标缓存的机制。
这之后又查到了一些解决方法，如删除 /data/system/customized_icons 路径下的响应图标（这个需要root，且在5.0上没有这个路径，估计是Pre Lollipop用的），再如杀掉Launcher的进程，强制其重启刷新缓存（这个貌似不科学，因为重启Launcher的话应该和重启系统性质是一样的，但是我试过重启机器后图标依然没有刷新，再有就是CM上也没找到明显的Launcher进程，只有个systemui看起来比较像，不过也不敢强制结束，怕玩坏啊，哈哈！），这之后又自己尝试了下别的可能作为缓存key的要素，如改VersionCode，改VersionName，同时改VersionCode和VersionName，改res下的图标文件名等，均无效！
这中间还穿插个小注意：以前一直认为Android应用的图标就放在各种Drawable下就好了，但是后来发现Android Studio生成的项目中图标ic_launcher.png是放在各种叫mipmap的res子资源文件夹下，于是查了下官方文档，发现了这里：http://developer.android.com/intl/zh-cn/tools/projects/index.html#mipmap，简单说就是官方建议将作为图标的res资源放入mipmap文件夹，理由是drawable中各种dpi的版本有可能会被系统优化掉，比如设备是xxhdpi的，那么ldpi、mdpi、hdpi等无关的会被去掉，这就导致Launcher或其它位置在显示应用的图标时可能用到不合适的分辨率版本，导致显示失真变渣。解决方法就是将图标文件归入mipmap文件夹中，这样可以保证各个分辨率版本不会被dpi无关优化掉。
发现上面提到的这个小问题时，还以为可以用mipmap的方式来保证图标修改后的更新，不过结果依然是：不管用！
以上如果没有解决问题，那么就说明你的应用图标被缓存了，但是改包名涉及到的地方比较多，SO :
可以通过更换主题的方式强制让手机刷新所有App的Icon，于是恍然大悟，真是Good Idea啊，打开手机的主题管理，换了一个，然后马上又换了回来，切回应用图标列表，小等了一下，图标果然刷新了，而且还有一些别的应用图标也变了（百度贴吧等），感觉这就是个主题图标缓存机制设计的坑！
