阿里AI研究成果入選國際頂會ICML 2020,AI推理速度提升3倍
近日,人工智能國際頂會ICML 2020公布了論文收錄結(jié)果,阿里巴巴7篇論文入選,是入選論文數(shù)量最多的中國科技公司。ICML是機(jī)器學(xué)習(xí)領(lǐng)域全球最具影響力的學(xué)術(shù)會議之一,今年接受率僅為21.8%。
根據(jù)ICML官方顯示,阿里7篇論文涵蓋在圖像識別、自然語言處理、搜索推薦等領(lǐng)域的研究成果,其中一篇《Boosting Deep Neural Network Efficiency with Dual-Module Inference》,提出了一種全新的AI推理方法,可大幅減少AI對計算和內(nèi)存資源的消耗,能將推理速度提升3倍。
近年來AI模型變得越來越復(fù)雜化,尤其是類似語言AI這類復(fù)雜模型,給計算、內(nèi)存資源帶來了新的挑戰(zhàn)。目前,業(yè)界通用的解決方法是采用更先進(jìn)的計算性能來運(yùn)行AI任務(wù),例如采用GPU、FPGA或者NPU等異構(gòu)計算,但該方法并沒有從根源上解決問題。
阿里巴巴達(dá)摩院設(shè)計出了一種“AI雙腦思考”的方法,能讓大型神經(jīng)網(wǎng)絡(luò)像人類一樣學(xué)會“快思考”與“慢思考”,從而進(jìn)行高效且準(zhǔn)確的推理過程。
該方法被稱為“雙模推理”, 即將一個復(fù)雜任務(wù)拆分成兩個任務(wù),例如在復(fù)雜AI推理任務(wù)過程中,可以先以很小的資源運(yùn)行“小網(wǎng)絡(luò)”,同時分析哪些網(wǎng)絡(luò)的區(qū)域較為敏感,然后只對敏感區(qū)域在“大網(wǎng)絡(luò)”中運(yùn)行計算。
達(dá)摩院的科學(xué)家從理論上證明了雙模推理的可行性,且在CPU上實現(xiàn)了該方法。實際效果顯示,該方法能在保證模型精度的基礎(chǔ)上,在語言模型上減小40%的訪存,達(dá)到1.54倍-1.75倍的性能提升,同時可以在僅損耗0.5%精度基礎(chǔ)上,提升3倍的推理速度。
近年來,阿里在AI領(lǐng)域迎來了基礎(chǔ)研究與產(chǎn)業(yè)應(yīng)用成果雙爆發(fā)的階段。三年前,阿里巴巴成立了內(nèi)部研究機(jī)構(gòu)達(dá)摩院,深入AI研究前沿。據(jù)了解,阿里AI已在國際頂級技術(shù)賽事上獲得了近60項世界第一,500多篇論文入選國際頂會。同時,阿里AI落地了多項重大研究成果,全面賦能各行各業(yè)。達(dá)摩院醫(yī)療AI團(tuán)隊疫情期間研發(fā)的AI診斷技術(shù),已在全球近600家醫(yī)院落地,完成50余萬例臨床診斷。

請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個字
最新活動更多
-
10月23日火熱報名中>> 2025是德科技創(chuàng)新技術(shù)峰會
-
10月23日立即報名>> Works With 開發(fā)者大會深圳站
-
10月24日立即參評>> 【評選】維科杯·OFweek 2025(第十屆)物聯(lián)網(wǎng)行業(yè)年度評選
-
即日-11.25立即下載>>> 費(fèi)斯托白皮書《柔性:汽車生產(chǎn)未來的關(guān)鍵》
-
11月27日立即報名>> 【工程師系列】汽車電子技術(shù)在線大會
-
12月18日立即報名>> 【線下會議】OFweek 2025(第十屆)物聯(lián)網(wǎng)產(chǎn)業(yè)大會
推薦專題
-
10 大模型的盡頭是開源
- 1 特斯拉工人被故障機(jī)器人打成重傷,索賠3.6億
- 2 【行業(yè)深度研究】退居幕后四年后,張一鳴終于把算法公司變成AI公司?
- 3 AI 時代,阿里云想當(dāng)“安卓” ,那誰是“蘋果”?
- 4 硬剛英偉達(dá)!華為發(fā)布全球最強(qiáng)算力超節(jié)點和集群
- 5 機(jī)器人9月大事件|3家國產(chǎn)機(jī)器人沖刺IPO,行業(yè)交付與融資再創(chuàng)新高!
- 6 谷歌“香蕉”爆火啟示:國產(chǎn)垂類AI的危機(jī)還是轉(zhuǎn)機(jī)?
- 7 00后華裔女生靠兩部AI電影狂賺7.8億人民幣,AI正式進(jìn)軍好萊塢
- 8 美光:AI Capex瘋投不止,終于要拉起存儲超級周期了?
- 9 華為已殺入!AI領(lǐng)域最熱黃金賽道,大廠的數(shù)字人美女讓我一夜沒睡著覺
- 10 隱退4年后,張一鳴久違現(xiàn)身!互聯(lián)網(wǎng)大佬正集體殺回