03

“算力再高,也怕菜刀”

DOJO(日文“道場(chǎng)”的英文)應(yīng)該算是這次特斯拉AI DAY的最大看點(diǎn)。

2020年8月,馬斯克表示,該公司正在研發(fā)一款名為“Dojo”的神經(jīng)網(wǎng)絡(luò)訓(xùn)練超級(jí)計(jì)算機(jī),目的是用來訓(xùn)練包括Autopilot在內(nèi)的整個(gè)自動(dòng)駕駛系統(tǒng)。當(dāng)時(shí),馬斯克發(fā)推稱,估計(jì)還需要一年時(shí)間。不僅僅是芯片本身的研發(fā)難度,還有能效和冷卻問題。

當(dāng)時(shí),馬斯克首次披露了特斯拉Dojo超算計(jì)劃的目標(biāo)——FP32精度的1EFLOPS(1018)的算力,也就是1024 PFLOPS,這將是已投入使用的超級(jí)計(jì)算機(jī)中排在第一的日本富岳的2．5倍。

我們可以看看當(dāng)時(shí)的宣傳圖,芯片用了非常規(guī)的封裝形式,第一層和第五層銅質(zhì)結(jié)構(gòu)是水冷散熱模塊;紅色圈的第二層結(jié)構(gòu)由5*5陣列共25個(gè)芯片組成;第三層為25個(gè)陣列核心的BGA封裝基板;第四層和第七層是物理承載結(jié)構(gòu)附帶一些導(dǎo)熱屬性;藍(lán)色圈的第六層是功率模塊。而Dojo系統(tǒng)的算力,相當(dāng)于近3萬輛特斯拉HARDWARE 3．0車型算力之和。

時(shí)間到了今年6月,在CVPR 2021工坊活動(dòng)上,卡帕西Andrej Karpathy還介紹了這款超級(jí)計(jì)算機(jī)的最新情況:擁有10 petabytes(1015)NVME存儲(chǔ),運(yùn)行速度為每秒1．6 TBps(1012),總算力為1．8 EFLOPS(1018),一度被認(rèn)為超越全球排名第一的超算富岳。

而今天,特斯拉終于揭開了 Dojo 計(jì)算機(jī)芯片的神秘面紗。由于采用了創(chuàng)新的架構(gòu),將算力分布在復(fù)雜的網(wǎng)絡(luò)構(gòu)造中,實(shí)現(xiàn)了極高的算力、高帶寬、低延遲的網(wǎng)絡(luò)吞吐量。

具體來說,Dojo 的D1芯片(屬于ASIC芯片,用于AI訓(xùn)練),采用7納米制程,單片BF16算力達(dá)到362 TFLOPs。

此外,D1芯片還具備團(tuán)隊(duì)作戰(zhàn)能力,可以無縫融合,變成超大規(guī)模計(jì)算陣列。比如,這次發(fā)布的集合25塊D1芯片的首個(gè)訓(xùn)練模塊。算下來,超過50萬個(gè)訓(xùn)練節(jié)點(diǎn)。每個(gè)模塊算力為9 PFLOPS(1015),帶寬為36TB/s。

特斯拉官方還透露:這不是終點(diǎn),下一代Dojo還會(huì)有10倍性能的提升。

當(dāng)然,最有意思的信息是,特斯拉發(fā)布了下一階段的集成120個(gè)訓(xùn)練模塊、包含3000個(gè)D1芯片、超過1百萬個(gè)訓(xùn)練節(jié)點(diǎn)、算力達(dá)到1．1EFLOPS的ExaPOD。不過,“我們很快就會(huì)組裝我們的第一個(gè)機(jī)柜,”曾在AMD工作過的Venkataramanan說。嗯,這個(gè)ExaPOD機(jī)柜離落地還有距離啊。

當(dāng)然,如果說Dojo是自動(dòng)駕駛的“大腦”,那么HARDWARE 4．0就是“神經(jīng)末梢”。不過,整場(chǎng)發(fā)布會(huì),都沒提HARDWARE4．0。

說起來,特斯拉是“拳打英偉達(dá)GPU,腳踢谷歌TPU�！钡�是,我們要說一句,“算力再高,也怕菜刀”的事還是會(huì)出現(xiàn)的。就像記者在《過度宣傳“自動(dòng)駕駛“的罪與罰》里面講的,千萬不要迷信科技!

04

準(zhǔn)備打敗波士頓動(dòng)力?

最后說說,發(fā)布會(huì)上,在一段人類演員模擬機(jī)器人的“尬舞”(這次不是馬斯克自己跳了)之后,埃隆·馬斯克上前表示,可能會(huì)在明年推出人形機(jī)器人Tesla Bot的原型。

這款機(jī)器人高1．72米,重56．6千克,機(jī)器人的臉實(shí)際上是一個(gè)顯示信息的屏幕。此外,機(jī)器人的雙手動(dòng)作能力接近人類水平,四肢使用40個(gè)機(jī)電推桿進(jìn)行操作,兩只腳有力反饋感應(yīng),以實(shí)現(xiàn)平衡和敏捷的動(dòng)作。

據(jù)悉,它能夠完成的一些任務(wù),包括跑雜貨店、撿拾家庭物品和其他日常指令。而這款機(jī)器人帶給人的驚艷感,有微信群里的媒體老師講到,讓人想到威爾·史密斯多年前的名片《機(jī)械公敵》里面的SONNY。它的外形也比本田和現(xiàn)代的機(jī)器人更接近人類。

不過,機(jī)器人這個(gè)“大招”在汽車公社&C次元看來,花里胡哨的意味更濃厚點(diǎn)。畢竟,就像談到機(jī)器人必談的波士頓動(dòng)力公司,也是命運(yùn)多舛,被賣來賣去的。所以,機(jī)器人“尬舞”更多像是增加招聘幾率的“光環(huán)效應(yīng)”。

整場(chǎng)AI DAY,特斯拉講的內(nèi)容,其實(shí)并沒有太出乎意外,是向著“更高、更快、更強(qiáng)”的方向前進(jìn),不過,就像《機(jī)械公敵》最后站在沙堆上的SONNY一樣,特斯拉一些原生性的BUG,讓它會(huì)不斷遭遇到被調(diào)查這樣的困境,馬斯克需要好好反思一下這種極致的發(fā)展思路。