端上AI推理引擎的设计与边缘计算的结合

AI工具与框架

2019-05-19 09:00--10:00

人工智能近年来快速爆发，特别是基于深度学习的算法在计算机视觉等领域取得了巨大进展，并且逐步在端侧应用。端上推理框架的功能与性能，决定了端侧AI应用是否可行。
MNN起初用于淘直播、短视频，后逐步在搜索推荐、商品图像搜索、互动营销、权益发放、安全风控等领域应用，在业务场景不断扩大的情况下，对MNN的功能和性能有着日益严格的要求。
对于传统的视觉领域，我们通过算法优化，汇编优化，异构编程，内存复用等技术，使MNN的性能处于同类框架的前列。针对边缘计算业务，我们采用图优化、非线性函数优化等技术，保证了边缘计算业务的顺利开展。