““維科杯”·OFweek 2020（第五屆）人工智能行業(yè)年度評(píng)選”活動(dòng)由高科技行業(yè)門(mén)戶OFweek維科網(wǎng)主辦，OFweek人工智能網(wǎng)承辦，活動(dòng)旨在表彰人工智能領(lǐng)域具有突出貢獻(xiàn)的優(yōu)秀產(chǎn)品、技術(shù)及企業(yè)，鼓勵(lì)更多企業(yè)投入技術(shù)創(chuàng)新；同時(shí)為行業(yè)輸送更多創(chuàng)新產(chǎn)品、前沿技術(shù)，一同暢享人工智能的未來(lái)。

2020人工智能行業(yè)年度評(píng)選“OFweek （5th．）  AI Awards 2020”將于2020年9月21日－10月10日進(jìn)入網(wǎng)絡(luò)投票階段，頒獎(jiǎng)典禮將于10月28日在深圳舉辦。

目前，活動(dòng)正處于火熱的報(bào)名評(píng)審階段，業(yè)內(nèi)企業(yè)積極響應(yīng)。開(kāi)放智能已正式參評(píng)“‘維科杯’·OFweek2020（第五屆）人工智能行業(yè)技術(shù)創(chuàng)新獎(jiǎng)”

OPEN AI LAB（開(kāi)放智能）于2016年成立，公司專注邊緣智能計(jì)算及應(yīng)用，致力于推動(dòng)芯片級(jí)算力、算法、產(chǎn)品工程化、行業(yè)應(yīng)用等完整產(chǎn)業(yè)鏈的深度協(xié)作，加速人工智能產(chǎn)業(yè)化部署和場(chǎng)景的邊界拓展，賦能場(chǎng)景化細(xì)分行業(yè)快速實(shí)現(xiàn)＋AI。為AIoT產(chǎn)業(yè)上下游合作伙伴提供端、邊、云一體化人工智能基礎(chǔ)軟硬件開(kāi)發(fā)平臺(tái)及應(yīng)用級(jí)解決方案。

參賽產(chǎn)品／項(xiàng)目名稱：開(kāi)放的邊緣AI推理框架Tengine

2017年Tengine發(fā)布

開(kāi)發(fā)背景：由于AIoT技術(shù)在行業(yè)的普及對(duì)低成本、實(shí)時(shí)性低功耗、高可靠性的需求，以及隱私安全等問(wèn)題的浮現(xiàn)，AI計(jì)算正從云端下移到邊緣節(jié)點(diǎn)中，如智慧交通、自動(dòng)駕駛、智能家居和城市大腦等領(lǐng)域，數(shù)以億萬(wàn)計(jì)的邊緣節(jié)點(diǎn)和終端設(shè)備需要實(shí)現(xiàn)本地智能化，稱之為邊緣AI計(jì)算。

邊緣計(jì)算的需求對(duì)硬件成本、功耗、兼容和易用性提出了較大的挑戰(zhàn)，硬件上面臨著芯片種類復(fù)雜、算力利用率低，軟件開(kāi)發(fā)環(huán)境復(fù)雜、兼容性差等關(guān)鍵問(wèn)題。如何能簡(jiǎn)單快速地實(shí)現(xiàn)AI算法模型從云端向下遷移到邊緣節(jié)點(diǎn)部署，充分發(fā)揮邊緣節(jié)點(diǎn)上的芯片算力與硬件性能，已成為AI在行業(yè)落地和規(guī)模部署經(jīng)濟(jì)性的關(guān)鍵所在。

OPEN AI LAB的邊緣AI推理框架Tengine為了解決AIoT應(yīng)用落地問(wèn)題。

技術(shù)扼要說(shuō)明

從架構(gòu)上看，Tengine自上而下主要可分為模型兼容層、基礎(chǔ)工具鏈、模塊化架構(gòu)層、操作系統(tǒng)層、異構(gòu)計(jì)算層五大框架層級(jí)，具有跨算法框架兼容、跨芯片適配、算力異構(gòu)調(diào)度加速、輕量無(wú)依賴、一致性開(kāi)發(fā)移植部署工具鏈幾大核心能力，共同助力AI生產(chǎn)力的有效提升。

其技術(shù)創(chuàng)新的亮點(diǎn)在哪里

1． 高性能

使用多種性能優(yōu)化技術(shù)，對(duì)神經(jīng)網(wǎng)絡(luò)模型的端側(cè)推理提供加速，包括模型圖的優(yōu)化，基于NEON的算子的性能優(yōu)化等。

2． 輕量級(jí)

Tengine 的開(kāi)發(fā)，除了標(biāo)準(zhǔn)庫(kù)（如 C＋＋標(biāo)準(zhǔn)庫(kù)或 C 標(biāo)準(zhǔn)庫(kù)）以外不依賴于任何第三方庫(kù)。不僅降低了軟件的依賴性，也最大程度上降低了內(nèi)存的占用。同時(shí)針對(duì)內(nèi)存敏感的平臺(tái)，還提供功能簡(jiǎn)化的版本，支持自有格式的模式文件，不包含調(diào)度／優(yōu)化／調(diào)試等功能。

3． 易部署

對(duì)于不同平臺(tái)提供統(tǒng)一的API，底層庫(kù)根據(jù)硬件自動(dòng)使用不同的優(yōu)化策略，無(wú)需客戶關(guān)注底層硬件。

4． 高安全

提供多種加密技術(shù)，對(duì)客戶模型進(jìn)行加密。不僅能良好的保護(hù)知識(shí)產(chǎn)權(quán)，適合商用部署。

參評(píng)述說(shuō)／理由：

Tengine是OPEN AI LAB開(kāi)放的自主知識(shí)產(chǎn)權(quán)的邊緣AI推理框架，重點(diǎn)關(guān)注嵌入式設(shè)備上的邊緣AI計(jì)算推理，為海量AIoT應(yīng)用和設(shè)備提供高性能AI推理的技術(shù)支持。Tengine于2017年在GitHub開(kāi)源，一方面可以通過(guò)異構(gòu)計(jì)算技術(shù)同時(shí)調(diào)用CPU、GPU、DSP、NPU 等不同計(jì)算單元來(lái)完成AI網(wǎng)絡(luò)計(jì)算，另一方面，它和TensorFlow、Caffe、MXNet 等訓(xùn)練框架相互配合，并且支持Pytorch、PaddlePaddle 等業(yè)內(nèi)主流框架，并且是國(guó)際上為數(shù)不多的通過(guò)ONNX官方認(rèn)證的戰(zhàn)略合作伙伴之一。技術(shù)層面上，其通過(guò)如圖優(yōu)化、對(duì)arm 架構(gòu)處理器系列的硬件后端性能深度優(yōu)化、低精度推理、異構(gòu)計(jì)算調(diào)度等技術(shù)打造端測(cè)最高效的AI計(jì)算框架，廣泛受到開(kāi)源社區(qū)開(kāi)發(fā)者歡迎，在今年4月CSDN發(fā)布的《中國(guó) AI 應(yīng)用開(kāi)發(fā)者報(bào)告》上，被評(píng)為“開(kāi)發(fā)者最喜愛(ài)的本土 AI 框架工具”。

作為擁有完全自主知識(shí)產(chǎn)權(quán)的開(kāi)源AI推理框架，Tengine與眾多芯片廠商建立了深度合作關(guān)系，致力于打造AIoT底層生態(tài)圈，為AIoT應(yīng)用開(kāi)發(fā)打通在各類硬件平臺(tái)部署算法的工作流，加速面向場(chǎng)景的AI算法在嵌入式終端／邊緣上快速遷移，大大推動(dòng)了AIoT領(lǐng)域技術(shù)的發(fā)展，也加快了AIoT領(lǐng)域產(chǎn)業(yè)化的步伐。

本屆“‘維科杯’·OFweek 2020（第五屆）人工智能行業(yè)年度評(píng)選”活動(dòng)將于9月21日進(jìn)入網(wǎng)絡(luò)投票階段，歡迎各位踴躍投票！