MNN

送 Doris 限量T恤，快来围观！>>> 从学界到工业界， “ 开源 ” 已经成为AI领域的一个关键词。一方面，它以 “ 授人以渔 ” 的方式为AI构建了一个开放共进的生态环境，帮助行业加速AI应用落地；另一方面，在解决行业实际问题时持续更新和迭代，源源不断地给AI领域输送重要的技术养料和创造力，可以说开源是AI落地和繁荣不可或缺的源动力。 6月1 0 日，腾讯优图实验室宣布正式开源新一代移动端深度学习推理框架 TNN ，通过底层技术优化实现在多个不同平台的轻量部署落地，性能优异、简单易用。基于TNN，开发者能够轻松将深度学习算法移植到手机端高效的执行，开发出人工智能 APP，真正将 AI 带到指尖。 轻量级部署，TNN助力深度学习提速增效 深度学习对算力的巨大需求一直制约着其更广泛的落地，尤其是在移动端，由于手机处理器性能弱、算力无法多机拓展、运算耗时长等因素常常导致发热和高功耗，直接影响到app等应用的用户体验。腾讯优图基于自身在深度学习方面的技术积累，并借鉴业内主流框架优点，推出了针对手机端的高性能、轻量级移动端推理框架TNN。 TNN在设计之初便将移动端高性能融入核心理念，对2017年开源的ncnn框架进行了重构升级。通过GPU深度调优、ARM SIMD深入汇编指令调优、低精度计算等技术手段，在性能上取得了进一步提升。以下是M NN, ncnn, TNN

作者|MNN团队 出品|阿里巴巴新零售淘系技术部 MNN 的诞生源于淘系技术部的一群对技术充满热情的同学，在充分的行业调研后认为当时的推理引擎如 TFLite 不足以满足手机淘宝这样一个亿级用户与日活的超级 App 。 于是我们从零开始自己搭建了属于阿里巴巴的推理引擎 MNN 。1年前的这个时候， MNN 在 Github 上开源 。它比其他的推理引擎更快更轻量，更符合手机淘宝这样庞大、复杂的生产部署环境。今年3月份，MNN 的引擎设计与优化理念还获得了学术界的认可，在 MLSys 2020 上发表了论文，并进行了 oral presentation 。 开源1年以来，获益于公司内外的用户反馈和业务推动，MNN 在许多方面都取得了长足的进步： 在阿里巴巴集团内部得到广泛推广，成为了端上推理引擎的事实标准，覆盖了如手机淘宝、手机天猫、优酷、钉钉、 来源： oschina 链接： https://my.oschina.net/u/4258260/blog/4281619

目前深度学习在终端部署上很多高质量的开源框架，例如，百度的PaddlePaddle-lite，阿里的MNN，腾讯的ncnn。不过看了很多评测，我最终选择了阿里的MNN进行学习。但是，对于阿里的提供的相应的工具链并不是特别满意。我估计最纠结的是那些使用windows的用户吧。（强烈建议官方使用统一脚本语言实现对应的辅助脚本。）这篇文章，我将介绍如何修改源码开开心心的在windows进行编译mnn（其实，修改后不用做任何操作，也是可以适用于其它操作系统 的）。 另外，请参考原文档： https://www.yuque.com/mnn/cn/build_windows 进行教程前，请先确认自己的操作系统有至少有以下环境： Microsoft Visual Studio （2017或以上）注，笔者这里是使用的vs2015，需将3rd_party/flatbuffers/CMakeLists.txt里的/WX 换成/WX- cmake（建议使用3.10或以上版本） android sdk(如果需要在win上编译android sdk的话) 1. 首先，在schema下，使用python实现了一份generate.py代码。注，我是使用python3.x。 #-*-coding:utf-8-*- #coding by: yuangu(lifulinghan@aol.com) import os

目前深度学习在终端部署上很多高质量的开源框架，例如，百度的PaddlePaddle-lite，阿里的MNN，腾讯的ncnn。不过看了很多评测，我最终选择了阿里的MNN进行学习。但是，对于阿里的提供的相应的工具链并不是特别满意。我估计最纠结的是那些使用windows的用户吧。（强烈建议官方使用统一脚本语言实现对应的辅助脚本。）这篇文章，我将介绍如何修改源码开开心心的在windows进行编译mnn（其实，修改后不用做任何操作，也是可以适用于其它操作系统 的）。 另外，请参考原文档： https://www.yuque.com/mnn/cn/build_windows 进行教程前，请先确认自己的操作系统有至少有以下环境： Microsoft Visual Studio （2017或以上）注，笔者这里是使用的vs2015，需将3rd_party/flatbuffers/CMakeLists.txt里的/WX 换成/WX- cmake（建议使用3.10或以上版本） android sdk(如果需要在win上编译android sdk的话) 1. 首先，在schema下，使用python实现了一份generate.py代码。注，我是使用python3.x。 #-*-coding:utf-8-*- #coding by: yuangu(lifulinghan@aol.com) import os