近日， OPEN AI LAB(開放智能)面向AIoT場景推出的邊緣AI計算框架Tengine成功完成了百度飛槳2.x系列版本的適配。后續(xù)雙方將共同發(fā)力，攜手降低企業(yè)人工智能應用開發(fā)門檻、推動人工智能產業(yè)落地，助力AI落地更簡單。

　　面對萬億級的AIoT市場，行業(yè)落地必然離不開場景。如何以場景為驅動、數據為核心、芯片為骨架、平臺工具為依托加速行業(yè)智能化進程是關鍵。

　　在過去的4年中，開放智能打造了一套開放的邊緣AI計算框架Tengine，實現最廣泛的芯片層適配，為開發(fā)者及合作伙伴提供芯片級易用性及業(yè)務加速，為行業(yè)落地提供邊緣計算模式下的基礎支撐，幫助開發(fā)者真正解決產業(yè)化的全棧工作難題，整體提升體系化生產力，讓 AI場景落地不再困難重重。作為開放的邊緣 AI 計算框架，Tengine 不僅能幫助開發(fā)者在開發(fā)過程中進一步提升算法移植和部署效能;從長期看，它也為打破 AIoT 產業(yè)壁壘，快速整合上下游以實現 AIoT 產業(yè)的落地和應用，為豐富全球 AI 開源生態(tài)提供了重要的推動力。

　　Tengine攜手百度飛槳，讓算法落地部署更簡單

　　OPEN AI LAB的邊緣AI計算框架Tengine可適配百度飛槳2.x的模型格式，方便開發(fā)者使用。本次適配了卷積、池化、激活、全連接、歸一化等常用算子，同時打通了PaddleClas/PaddleDetection 中的MobileNetV2分類網絡和YOLOv3目標檢測網絡。

　　Tengine在NPU側部署有成熟的工具，支持使用飛槳訓練的模型通過Tengine直接部署，發(fā)揮兩家的長處，降低部署難度;讓用戶可以直接加載飛槳產業(yè)級模型庫里面的模型，提供更簡單的開發(fā)算法和應用，從而達到實際落地的需求，從而擴大其訓練框架部署的生態(tài)，助力其算法開發(fā)能力更便捷，算法落地部署更簡單。

　　本次雙方的合作，意味著Tengine已經完成對百度飛槳的適配，進一步擴大了雙方在AI產業(yè)的生態(tài)。

Tengine Framework框架圖

　　如何走順深度學習的最后一公里

　　5月20日，深度學習技術及應用國家工程實驗室與百度聯合主辦的WAVE SUMMIT 2021深度學習開發(fā)者峰會在北京召開。Tengine開源項目技術負責人圈圈蟲受邀參加了《如何走順深度學習的最后一公里》圓桌對話。

　　圈圈蟲在對談中表示，深度學習最后一公里在端側面臨最大的困境是不同訓練框架導出的模型在差異化的邊緣計算設備上部署難以解耦，以及邊緣計算設備低比特量化策略層出不窮、精度難以統(tǒng)一評估的問題。OPEN AI LAB的Tengine項目通過增強垮硬件平臺的移植性，解耦前端模型與后端硬件，支持計算圖自動切分、混合精度，增強異構計算單元使用的靈活性等方式去解決這樣的問題，并提出了軟件廠商應該結合開源硬件設備，推廣普及1-2種低比特量化方案的倡議。

　　Tengine作為第三方部署平臺，一直持有開放、合作的精神，與飛槳及多家訓練框架合作，希望能成為國內訓練框架技術互通的橋梁。

　　關于OPEN AI LAB Tengine

　　Tengine是OPEN AI LAB推出的邊緣AI計算框架，致力于解決AIoT產業(yè)鏈碎片化問題，加速AI產業(yè)化落地。Tengine為了解決AIoT應用落地問題，重點關注嵌入式設備上的邊緣AI計算推理，為海量AIoT應用和設備提供高性能AI推理的技術賦能。

　　一方面可以通過異構計算技術同時調用CPU、GPU、DSP、NPU等不同計算單元來完成AI網絡計算，另一方面，它支持TensorFlow、Caffe、MXNet、PyTorch、MegEngine、DarkNet、ONNX、ncnn等業(yè)內主流框架，簡化并加速面向場景的AI算法在嵌入式邊緣設備上快速遷移，以及實際應用部署落地，提升十倍基礎開發(fā)的效率。

　　OPEN AI LAB是國際上為數不多的通過ONNX官方認證的戰(zhàn)略合作伙伴之一。在CSDN發(fā)布的《中國 AI 應用開發(fā)者報告》上，被評為“開發(fā)者最喜愛的本土 AI軟件 工具”。

　　OPEN AI LAB將在 “Powered by Tengine” 生態(tài)伙伴合作項目平臺上，與更多同道一起，共同構建AIoT產業(yè)生態(tài)，助力產業(yè)智能化的變革，賦能萬物，萬物智能!

　　關于百度飛槳(PaddlePaddle)

　　飛槳(PaddlePaddle)以百度多年的深度學習技術研究和業(yè)務應用為基礎，是中國首個開源開放、技術領先、功能完備的產業(yè)級深度學習平臺。百度飛槳已經凝聚了320萬開發(fā)者，累計commits超過16萬次，以PR或ISSUE提交形式的開源貢獻者超過了5000位，其中有120位優(yōu)秀的開發(fā)者通過層層篩選成為了百度飛槳開發(fā)者技術專家(PPDE)。產業(yè)應用方面，飛槳服務了12萬家企業(yè)，平臺上擁有36萬個模型。秉持開源開放、技術創(chuàng)新，產學研用通力融合，飛槳在產業(yè)應用、人才培養(yǎng)、開源社區(qū)三方面實現了生態(tài)的全面繁榮。

　　關于OPEN AI LAB

　　OPEN AI LAB(開放智能)是一家專注邊緣智能計算及應用的高科技企業(yè)，提供邊緣AI計算框架與場景化能力生產力工具，簡化應用部署，致力于打造中國最易用的人工智能邊緣開發(fā)部署平臺。未來將用十年時間構建起中國最領先的邊緣計算生態(tài)體系，助力中國成千上萬的企業(yè)高效、低門檻地實現智能化升級轉型。