作者|鹿尤
MNN 工作台开源地址：
开源地址：https://github.com/alibaba/MNN
背景
随着移动互联网的快速发展，人工智能在移动端上的应用越来越广泛，端智能在图像识别、视频检测、数据计算等核心场景发挥着重要作用。众所周知，Python 是算法进行端智能研发的首选语言，目前阿里巴巴内已经建立了端智能的研发生态，包含 Python 虚拟机，系列的数据/视觉等运行时 Python 扩展库、Python 任务调度库，以及配套的任务发布系统等等。
端智能的主要场景在数据计算、视觉内容理解这两个领域，如果算法研发完全在 PC 端的会简单的多，因为 PC 环境对于 Python 的研发有官方天然的支持，但在移动端上，进行算法的部署、调试、验证，仍处在“刀耕火种”的时代，目前算法主要通过两种途径：
- 日志调试：完全脱离运行时代码，通过在代码中插入日志，验证程序的运行逻辑和结果。
- PC 模型端侧环境：为了能够进行代码的断点调试，在 PC 侧搭建和安装端侧 Python 代码依赖的所有库，让 Python 程序能独立地运行和在和调试在 PC 端通用 IDE（如 PyCharm ）上，数据输入则使用 Mock 的方式。
通过打日志当然也能验证结果和定位问题，但一旦工程稍微复杂点，生产效率会非常低；而脱离移动端环境，在 PC 侧独立运行，并不能反应真实的运行环境（实时数据、运行性能等），无法保证 PC 和端侧数据的一致性。
上面两种研发方式的主要问题是脱离了代码当前的运行环境，因而会产生调试信息的缺失。我们知道，每一种语言在开发者之间的流行都离不开配套的 IDE 调试工具，就像可以使用 Xcode 调试手机应用的 OC 代码一样，我们需要一种能真正进行端智能算法在端侧部署和调试的工具和方案，来提高 AI 研发生产效率。
MNN 工作台
MNN 是阿里巴巴开源的一个轻量级深度学习端侧推理引擎，核心解决深度神经网络模型在端侧推理运行问题，涵盖深度神经网络模型的优化、转换和推理。
开源地址：https://github.com/alibaba/MNN
除 MNN 引擎建设外，MNN 团队还深度参与了阿里内部的端AI应用实践。AI 应用门槛高、算法模型部署链路长是长期困扰我们的问题。为了解决这两个问题，我们将上百次实践中长期积累的方案沉淀为一站式 AI 研发范式 —— MNN 工作台。（www.mnn.zone 或点击文末阅读原文，下载 MNN 工作台）
MNN 工作台提供了端 AI 的研发范式，同时它也是一个对移动端 Python 的通用调试编辑器，工作台不仅包含标准的端侧 Python 调试能力，还覆盖了阿里集团内端智能算法常用的研发部署场景，是算法研发的效率工具。
工作台提供了 VSCode 风格的 Python 集成开发环境，它的使用过程很简单，一般分为三步：
- 建立连接：应用通过扫描工作台上的二维码，建立局域网内手机和PC的连接
- 代码推送：工作台上的工程通过局域网推送到端侧应用中
- 运行：端侧应用触发执行端侧 Python 代码，如果设置了断点，就可以进行端侧代码的调试了
▐ 端计算研发
MNN 工作台同样为阿里内重要的端智能场景 - 端计算的研发提供了高效的本地调试部署方案，覆盖了 Walle/Jarvis、CV 这几个主要的端计算场景。
- 研发流程
在此之前，端计算的研发是依赖于平台发布的，在开发阶段将调试日志加到代码中，通过预发/beta发布到平台，然后再扫码连接到平台将日志输出，通过日志来定位和分析问题，以此往复。这种方式相对比较原始，开发调试周期也比较长，一次修改或验证就是一轮上传发布的操作，而且调试信息只有日志，整体开发效率比较低。
上图为算法使用工作台进行端计算研发的一般过程：
- 新建端计算工程，或打开从平台 clone 的端计算工程
- 应用扫码连接工作台，此时工作台中会实时输出算法的日志
- 在工作台 IDE 环境中开发代码，修改配置，添加资源
- 运行任务，此时任务会通过本地推送部署到端上。线上/预发环境都可以，任何代码都不会影响到线上，无需担心稳定性问题
- 代码断点调试、查看堆栈、变量等
- 工作台本地测试通过后，提交代码，再进行后续的平台发布操作
工作台有效解决了算法在开发阶段的调试部署问题，它的主要优势在于：
- 本地部署，开发阶段可以完全脱离平台
- 支持端计算工程的实时 Python 调试
- 端上部署不受预发/线上环境，或窗口期的限制
- 实时查看端侧算法的运行性能
- 持久化调试
端计算任务的触发一般都是 UT，也有工程主动调用的，不管触发方式如何，代码只要推送一次，后面每次触发都会运行调试，除非代码有修改才需要重新推送，这就是工作台的持久化调试能力。
淘宝直播中使用 profile 来评测 CV 算法的性能，运行时间和次数会实时地显示在对应的代码行。profile 适用于所有能通过工作台部署的 Python 工程，Walle、Jarvis、CV、Playground 等工程都可以进行性能评测。后续我们会在性能评测中加入更多的端侧实时信息，如内存、CPU 占用等，帮助算法更好的分析代码性能。
结语
端智能的研发过程中，算法的开发只是一小部分，大部分工作其实都在算法之外，MNN 工作台不仅降低了普通开发者的 AI 研发的门槛，同时也是算法研发的提效工具，它有效解决了端 Python 的开发部署困难，让算法可以脱离工程自己搭建 Demo 应用，也支持了阿里集团内主要的端智能的研发场景，这样算法同学可以更加专注于算法本身的开发，从而提高 AI 的研发生产效率。
