腾讯发布推理框架TNN全平台版本，同时支持移动端、桌面端和服务端

快来打我* 2023-01-17 10:46 208阅读 0赞

TNN是腾讯开源的新一代跨平台深度学习推理框架，也是腾讯深度学习与加速Oteam云帆的开源协同成果，由腾讯优图实验室主导，腾讯光影研究室、腾讯云架构平台部、腾讯数据平台部等团队一起协同开发。在经过4个多个月的迭代完善后，**TNN新版本v0.3版本正式发布，是首个同时支持移动端、桌面端、服务端的全平台开源版本。**TNN新版本在通用性、易用性、性能方面进一步获得提升。

TNN地址：

https://github.com/Tencent/TNN

**01**

**通用性**

在保证模型统一、接口统一的前提下，依托于硬件厂商提供的加速框架基础算子支持，以及手写kernel优化的方式，对移动端、桌面端和服务端提供了多种不同加速选择，**实现了对常用CV、NLP模型的优化适配**。

![4b5081758b194cd8777b9acb2af841a5.png][]

** 硬件平台支持**

TNN通过集成OpenVINO和TensorRT的方式**新增了对服务端X86和NVIDIA硬件的支持**，既能快速获取硬件厂商的最新优化成果，又能基于业务模型结构特点添加自定义实现达到性能极致。同时考虑到桌面端应用对安装包大小的限制，TNN通过JIT和手工优化的方式实现了轻量级的X86后端，整体库大小仅为5MB左右。

** 模型算子支持**

TNN新版本**在CV类模型的支持上扩展了对3D-CNN、LSTM、BERT等模型结构的支持**，总算子数从88个增加到107个，新增算子包括LSTM、GridSample、Histogram、OneHot、BitShift、Gather、ScatterND、LayerNorm、GroupNorm、GELU、SoftSign、Erf等。

**02**

**易用性**

** 动态维度和预处理支持**

TNN之前版本主要支持CV类模型，网络输入基本都是NCHW4个维度且每个维度上的值基本不变。而NLP场景下同一个网络会有0维到6维的情况，且每个维度上的值根据输入而变化。为此TNN**新增了输入维度配置接口， 在模型算子、硬件、系统支持等层面做了大量补充和完善。**

API接口对Mat相关接口做了一定扩充，包括拷贝填充功能(CopyMakeBorder)，方便SDK开发者进行网络预处理后处理加速。目前TNN已支持裁剪(Crop)、缩放(Resize)、颜色空间转换(CvtColor)、仿射变换(WarpAffine)和拷贝填充(CopyMakeBorder)等常见的预处理后处理操作。

** 运行时常量折叠**

onnx模型导出模型时会产生很多粘合剂类的算子用于计算常量和数据Shape的信息，TNN实现了ConstFolder常量折叠功能来简化模型结构提升模型运行性能。相比开源社区工具onnx-simplifier，ConstFolder增加了对以ATen形式输出的算子的支持，同时支持运行时常量折叠以支持模型变维的需求。TNN运行时将变维计算部分的算子单独抽取出来用NAIVE（纯C++）执行，以减轻各个硬件device（ARM、Metal、OpenCL）的算子实现压力。

![edee139d249ec036ebc1b75d737eacee.png][]

** 示例展示**

在腾讯光影和腾讯光流团队的支持下，头发染色和人体姿态两个TNN示例在TNN中间迭代的小版本中已经发布，并展现出不错的算法效果。这次配合新版本发布，我们添加了移动端中文OCR示例以及桌面端/后台端BERT阅读理解示例。

中文OCR示例采用chineseocr lite模型，展示了如何通过文本框位置检测+文本框角度检测+文字识别3个模型串联来进行中文文字识别；

BERT 阅读理解示例采用BERT-Squad10模型，展示了如何通过预先输入上下文以及词汇表来实现一个简单的问答系统。**下图依次为头发染色、人体姿态、中文OCR、BERT阅读理解效果展示。**

![689d637c0bf9713525d016d94f76e6d5.gif][]

![c306fa9154b455cc5d96b5e0abc53377.gif][]

![f2294ce99fbddd9d19bc0477274d3eb6.gif][]

![cae0b136b14adb8e33a3a681b4e6f486.gif][]

**03**

**性能优化**

** 移动端性能优化**

**Arm性能优化:**

armv8.2优化：fp16向量指令优化，相比于fp32预期性能翻倍，除了和大多数开源框架一样支持arm64之外，针对arm32架构也实现了fp16指令优化，让64位和32位APP都能发挥硬件fp16向量加速的能力；

![71bdff2c528e58f9de7baf577cbcdf52.png][]

int8优化：针对常用的算子block组合采取了更激进一些的融合策略，如conv+add+activation，能有效的减少量化反量化的开销以及内存读写，并且经内部业务验证，在提高性能的同时并不会造成精度的下降

**OpenCL性能优化：**

核心卷积优化：

a. 访存性能优化: Channel Blocking优化、以及局部内存(local memory)优化提升访存性能，实现工作组内的数据共享；

b. 计算性能优化: winograd算法优化3x3卷积， 寻址计算优化，相邻计算网格偏移量共用向量寄存器，降低fp32计算单元压力；

工作组尺寸优化: 优化计算策略，并通过Auto-Tuning挑选最优工作组尺寸；

预处理/后处理优化: 使用buffer做参数缓存，降低GPU拷贝开销。

![9fbdc7baa01b18c38b6c0c075de07f53.png][]

![558b7eafcc3fe7bc3a872af86730df3f.png][]

![ac9cfb48f2f3f3928b8e89c009cffdc2.png][]

** 桌面端/服务端性能优化**

![ca897a9f2ba49973bb83982cb1dc3e25.png][]

**TNN服务端**通过集成OpenVINO和TensorRT的方式新增了对服务端X86和NVIDIA硬件的支持，既能快速获取硬件厂商的最新优化成果，又能基于业务模型结构特点添加自定义实现达到性能极致。与业界服务端统一框架onnxruntime性能最好版本相比，**TNN当前在CV类模型有一定优势**，而onnxruntime在NLP类模型有一定优势。TNN刚开始支持NLP模型，后续会在这块持续优化。

**TNN桌面端**为了兼顾高性能和硬件兼容性，同时考虑应用App 对安装包大小的限制，通过JIT和手工优化的方式实现了轻量级的X86后端，支持SSE41、SSE42、AVX、AVX2、FMA等指令集。相比onnxruntime服务端库80MB，**TNN桌面端整体库大小仅为5MB左右，而性能差距在20%以内。**

![92e868f5000bd8e094c2973e10399982.png][]

![59cf944c875c1fec159b0ba6a430ed05.png][]

**04**

**结语**

**TNN的目标是做一个全平台支持的AI推理框架**，在与合作伙伴的协同下会持续输出对各硬件平台(ARM、X86、NVIDIA等)的适配与优化，敬请期待！

TNN开源地址：https://github.com/Tencent/TNN

--------------------

????https://github.com/Tencent

欢迎提出你的 issue 和 PR！

国内镜像地址：

????https://git.code.tencent.com/Tencent\_Open\_Source

（登录后才能访问公开项目）

腾讯工蜂源码系统为开源开发者提供完整、最新的腾讯开源项目国内镜像

![169def3bac2b7638ad3e79969b79a186.png][]

[4b5081758b194cd8777b9acb2af841a5.png]: /images/20221021/e86f19d773a44a68b4a24f6a6db14d10.png
[edee139d249ec036ebc1b75d737eacee.png]: /images/20221021/247884154fc44ab5b4bf6a8d843cd5ce.png
[689d637c0bf9713525d016d94f76e6d5.gif]: /images/20221021/c0844908bcd04d36927787b04ba07626.png
[c306fa9154b455cc5d96b5e0abc53377.gif]: /images/20221021/f9a124d9a56546309f5a640c8a965e83.png
[f2294ce99fbddd9d19bc0477274d3eb6.gif]: /images/20221021/1b3320e114f84d1c8a3150885c83e91c.png
[cae0b136b14adb8e33a3a681b4e6f486.gif]: /images/20221021/147d60f8a7f849f0998f3ed5c3f66a38.png
[71bdff2c528e58f9de7baf577cbcdf52.png]: /images/20221021/c468887c61c24b72aed9b41c3933696e.png
[9fbdc7baa01b18c38b6c0c075de07f53.png]: /images/20221021/c9953a7fc98040f29221dde1d6b72a96.png
[558b7eafcc3fe7bc3a872af86730df3f.png]: /images/20221021/1a1ebca2cfdd46aeb989c26b8eee44cf.png
[ac9cfb48f2f3f3928b8e89c009cffdc2.png]: /images/20221021/3e0ddb9a81b3491b9a82f97ef5d9a63c.png
[ca897a9f2ba49973bb83982cb1dc3e25.png]: /images/20221021/867f8f445a4c4ad0825a86fa34a6bee8.png
[92e868f5000bd8e094c2973e10399982.png]: /images/20221021/f502ee87775c49d8b7b0808e4a528c17.png
[59cf944c875c1fec159b0ba6a430ed05.png]: /images/20221021/e52eb117e47e4cd1973000b0697e325a.png
[169def3bac2b7638ad3e79969b79a186.png]: /images/20221021/0fe0f6bb4b8147d9a4c6d7f7741f8d93.png